Facebook, l’AI funziona: hate speech e molestie ridotti ai minimi termini -VIDEO

Facebook pubblica i dati relativi all’ultimo trimestre del 2020: l’AI rimuove il 97% dei post pericolosi prima dell’intervento degli utenti.

facebook AI like
Facebook, l’AI funziona nella lotta all’hate speech (image from pixabay.com)

Quasi 27 milioni di post contenenti incitamento all’odio di qualsiasi forma sono stati rimossi da Facebook nell’ultimo trimestre del 2020 prima di venire segnalati dagli utenti. Sia l’impegno degli impiegati che la barriera innalzata dall’AI stanno dando un notevole aiuto nel gestire il problema dei contenuti violenti e pericolosi. Questo tema – insieme a quello della privacy –  è centrale in un momento storico in cui l’attenzione delle istituzioni è più che mai puntata sull’utilizzo dei social e sulla capacità dei social stessi di moderare i contenuti degli utenti sulle proprie piattaforme.

Secondo quanto si evince dal report sull’applicazione dei community standard pubblicato l’11 febbraio dal social network, i risultati ottenuti con l’aiuto dell’intelligenza artificiale sono più che confortanti. I filtri gestiti dall’Ai hanno permesso di bloccare il 97.1% dei contenuti improntati all’odio (il cosiddetto hate speech) prima che fossero riportati dagli utenti.

Si tratta di un netto passo avanti rispetto al quarto precedente, quando post e commenti bannati prima di essere denunciati erano stati il 94% del totale. Progressi ancora più evidenti se si fa il paragone con l’ultimo trimestre del 2019 (80% di post di incitamento all’odio rimossi) o addirittura con il 2017, quando l’efficacia dell’AI non oltrepassava il 24%.

Perché Facebook può contare sull’AI: come funzionano i filtri che bloccano i contenuti indesiderati

Facebook AI data report
L’andamento dei post pericolosi bloccati su Instagram e FB (image from about.fb.com)

Mike Schroepfer, CTO di Facebook, ha spiegato che i motivi di un miglioramento tanto marcato sono essenzialmente due. Primo, l’AI è ormai in grado di contestualizzare un contenuto. Lo stesso post o lo stesso commento potrebbe infatti avere una valenza opposta a seconda del contesto a cui si riferisce. Secondo, l’assistenza dell’intelligenza artificiale è ora disponibile anche in spagnolo e arabo, due lingue la cui presenza sui social è non solo massiccia, ma spesso anche connessa a tensioni sociali e temi caldi, che da sempre sono terreno fertile per i seminatori di odio.

PROVA UN ALTRO CONTENUTO—>Facebook contro le fake news su Covid e vaccini: in arrivo nuove misure

La maggior parte dei contenuti incriminati è stata eliminata dal news feed, che ci propone post considerati adatti a noi in base ai dati sul nostro comportamento online che Facebook raccoglie e analizza. L’AI non fa altro che comparare i post con i community standard del social media e con gli input degli utenti, sotto forma di sondaggi passati o dei post che sono stati nascosti o riportati.

TI POTREBBE INTERESSARE>>>Facebook Messenger migliora la sicurezza dell’app: le nuove funzioni

Il commento al report firmato dal vice presidente della divisione Integrity di FB, Guy Rosen, sottolinea che lo sforzo “proattivo”, ovvero umano, nella rimozione di contenuti di incitamento all’odio o molestie sessuali, è stato condizionato in negativo dall’incidenza del covid 19. In attesa che l’emergenza del personale finisca, i dipendenti in attività si sono concentrati su argomenti come suicidio e autolesionismo, anch’essi purtroppo di grande attualità. I risultati non sono mancati, con una riduzione che è passata dal 26% al 49% dei contenuti su Instagram e dal 55% all’80% su Facebook dal terzo al quarto trimestre del 2020. Ancora non basta, ma il trend è positivo.