Perspective, da Google arriva il filtro contro i molestatori online

Jigsaw ha lanciato un filtro che utilizza l'apprendimento automatico, per dare uno stop alla diffusione di quelle che verranno considerate notizie false e ai molestatori sul web, detti 'haters' o 'troll' che usano un linguagg

Il Team di Google Jigsaw , insieme al Counter Abuse Technology, collaborano per contrastare gli abusi mettendo a punto un codice chiamato Perspective.

Il progetto ha richiesto più di un anno di lavoro ed utilizza l’apprendimento automatico (machine learning ) per rilevare automaticamente sul web insulti e parole o frasi offensive. A questo proposito Google dichiara che Perspective “aiuta a identificare i commenti tossici“.

Perspective, tecnologia in fase iniziale e in costante sviluppo, viene resa disponibile tramite una API a editori e piattaforme, che possono integrarla ed utilizzarla nei propri siti e applicativi.

Sempre più frequentemente, la mancanza di un contatto diretto con l’interlocutore, sta portando alcune persone ad usare la rete per sfogare la propria negatività offendendo ed insultando chi scrive sul web e costringendo molti utenti ad abbandonare le conversazioni sui forum, sui video di Youtube, nelle foto di Instagram, ecc.

Stando ad un rapporto citato da Google, il 72% degli utenti americani che navigano in Rete ha assistito a molestie on-line, mentre circa il 50% le ha subite di persona; di queste, quasi un terzo auto-censura ciò che pubblica on-line per timore di ritorsioni.

Sempre secondo il rapporto, le molestie sul web hanno influenzato le vite di circa 140 milioni di persone negli Stati Uniti e un tale problema non è limitato ai lettori online; infatti sebbene gli editori di notizie vogliano incoraggiare l’impegno e la discussione intorno ai contenuti che pubblicano, un mucchio di tempo viene impiegato per moderare i commenti o eliminare certi vocaboli utilizzati da quelli che vengono chiamati ‘haters’ e questa situazione ha determinato la scelta da parte di molti siti di eliminare del tutto i commenti.

La tecnologia di Google avrebbe la capacità di andare incontro alle esigenze degli editori e contribuire a rendere migliore, per gli utenti, la scoperta dei contenuti e una serena partecipazione alle conversazioni, valutando le parole presenti nei commenti con un punteggio che si basa su quanto esse siano simili alle parole che in passato sono già state archiviate come “dannose” o che potrebbero portare qualcuno a lasciare una conversazione.

Per poter individuare parole o frasi potenzialmente dannose, Perspective ha esaminato centinaia di migliaia di commenti che sono stati etichettati da revisori umani; inotre, tutte le volte che il software trova nuovi esempi di commenti negativi che vengono segnalati manualmente da parte degli utenti, Perspective è in grado di imparare, in modo da funzionare meglio la sua analisi dei commenti futuri.

Gli editori che scelgono di utilizzare l’API di Perspective hanno la possibilità di decidere cosa vogliono fare con le informazioni che ricevono dal sistema. Un editore potrebbe, infatti, scegliere di portare i commenti individuati da Perspective all’attenzione di un team di persone a cui spetta la decisione finale di includere o meno il commento in una conversazione, oppure potrebbe decidere di fare affidamento esclusivamente al giudizio della tecnologia di Google, bloccando tutti i commenti che vengono segnalati in automatico.

Google ha già testato una versione di questa tecnologia con il New York Times, dove un intero team passa al setaccio e modera ogni commento prima di essere postato, con una media di 11.000 commenti ogni giorno. Siccome i commenti sono davvero molti ed il Times è stato costretto ad abilitare i commenti solo sul 10% degli articoli che pubblica online, Google ha sviluppato dei modelli che consentono ai moderatori di gestire meglio e più velocemente i commenti, in modo da poterne pubblicare ogni giorno un numero maggiore e su più articoli.

Come risorsa di apprendimento automatico Google ha messo a disposizione per gli sviluppatori di Perspective la biblioteca TensorFlow, in combinazione con la piattaforma Cloud Machine Learning Platform.

La prima versione di Perspective è stata pensata per individuare le frasi negative, ma con la collaborare di altri partner ci sarà la possibilità di sviluppare modelli capaci di identificare altre prospettive, come ad esempio quando i commenti sono inconsistenti o fuori-argomento, oppure nuovi modelli che lavorano in altre lingue.