Facebook interviene con l’AI contro odio e disinformazione online

Contenuti dannosi ridotti al minimo nei dati del primo trimestre 2021: ora Facebook lavora ad una IA che capisce il contesto dei contenuti anche in video e foto, catturando anche quelli che sfuggono agli algoritmi ed eliminare odio e disinformazione.

Facebook Ai contro odio e disinformazione
Facebook apre un “centro di trasparenza” e lavora ad una AI che eliminerà contenuti di odio e disinformazione (Unsplash)

La lotta di Facebook contro commenti di odio produce i primi risultati: il social network di Zuckerberg dichiara i risultati ottenuti nel primo trimestre del 2021, mostrando un calo significativo di contenuti dannosi ed offensivi. La diffusione di nudità di adulti è stata ridotta allo 0,03-0,04%, con 28 milioni di contenuti bloccati prima ancora che venissero segnalati, non solo su Facebook ma anche su Instagram. Ancora più basse le percentuali di contenuti violenti e grafici, che raggiungono una quantità minima di 0,01-0,02% su Instagram, e 0,03-0,04% su Facebook.

Oltre al Rapporto sull’applicazione degli Standard della Comunità, Facebook ha aperto un Centro sulla trasparenza per illustrare non solo l’utilizzo dei dati degli utenti, ma anche come interviene sui contenuti che violano le Guidelines del sito: come, quando e secondo quali norme un contenuto, che si tratti di testo, foto o video, viene eliminato.

Fin’ora, l’utilizzo dell’algoritmo Xlm-r ha reso possibile l’aumento del tasso di rilevamento proattivo dei discorsi d’odio: dall’iniziale 23.6% è salito a circa 97%. Ciò significa che se negli scorsi anni la maggior parte dei contenuti offensivi veniva eliminata solo in seguito alle segnalazioni, oggi non arriva neanche nelle sulle bacheche degli utenti. L’intelligenza artificiale riconosce le violazioni delle Community Guidelines del social network, ed elimina immediatamente i post offensivi.

Tuttavia, Xlm-r è limitato dalla sua abilità di analizzare e tradurre soltanto i contenuti di testo: per questo, per la prima volta Facebook è stato trasparente non solo sui contenuti eliminati, ma anche su quelli che sono sfuggiti ai loro controlli, ed ha dichiarato di star lavorando ad una nuova AI.

LEGGI ANCHE >>> Google LaMDA rende le conversazioni con le IA più naturali

L’AI di Facebook imparerà a capire il contesto di foto e video

Facebook AI contro odio e disinformazione
Aperto il “centro di trasparenza” di Facebook (Unsplash)

Se l’intervento di moderatori ed intelligenza artificiale ha prodotto risultati notevoli e si è dimostrato efficace nel primo trimestre di quest’anno, c’è ancora molto che sfugge anche con l’ausilio degli algoritmi. I contenuti che Facebook ha preso di mira, oltre ai già menzionati contenuti di violenza e di nudità, sono principalmente lo spam ed i profili fasulli: rimane difficile “catturare” i contenuti più complessi, dove ad essere dannoso non è soltanto il testo ma la sua combinazione con foto e video.

Ognuno di questi elementi può risultare innocente per un’intelligenza artificiale che non coglie le sfumature delle interazioni online, ed i piccoli dettagli che possono cambiare l’intero senso di un post: per questo, Facebook sta lavorando ad una nuova AI che possa analizzare contemporaneamente testi, immagini e video. Il prossimo passo per la tecnologia di Facebook sarà quindi l’ampliamento della comprensione all’intero contesto, il passaggio dal dettaglio all’insieme, come svelato da Mike Schroepfer, CTO, per rendere il social network più sicuro.

POTREBBE INTERESSARTI ANCHE >>> CarPlay, crash di Apple Music con iOS 14.5.1: centinaia di segnalazioni