Un algoritmo progettato per danneggiare gli utenti: accuse pesantissime per un noto social

In sedici anni di gloriosa carriera ha scritto la storia delle piattaforme web 2.0, conquistando tutto e abbracciando generazioni e generazioni, dai più grandi ai più piccoli. Dal primo video caricato pubblicato da Jawed Karim (alla zoo di San Diego) nell’aprile 2005, fino a clamoroso successo per il video amatoriale dell’uccisione di Neda Agha-Soltan (nel maggio del 2009), superando la censura di notizie imposta dal regime iraniano. Youtube non ha rivali nel suo genere, adesso si possono vedere anche eventi sportivi, eppure c’è chi lo accusa pesantemente.

Youtube (Adobe Stock)
Youtube (Adobe Stock)

YouTube deve ammettere che il suo algoritmo è progettato per danneggiare e disinformare le persone”. Questo il j’accuse neanche poi tanto velato da parte di Mozilla, figlio di un attento studio da parte del web browser libero e multipiattaforma.

L’algoritmo ha prodotto 3362 video sgradevoli su un campione di 30mila. Tutte le statistiche

Social media (Adobe Stock)
Social media (Adobe Stock)

Che il feed basato sull’apprendimento automatico dei consigli di YouTube possa spesso far emergere i risultati di una tendenza tagliente o addirittura radicalizzante, non è più una sorpresa. Né un problema. Lo stesso social ha promosso strumenti che, a suo avviso, offrono agli utenti un maggiore controllo sul proprio feed e trasparenza su determinati consigli. Ma quando si riproducono più video e più Google acquisisce dati sulle preferenze dell’utente, più si affina l’algoritmo sviluppato proprio per segnalare i video consigliati. Eppure questa sequenza di bit non è perfetta.

LEGGI ANCHE >>> Qualcomm, decisione clamorosa: il primo smartphone è fantastico

Secondo Mozilla, infatti, quando l’algoritmo sbaglia, nella migliore delle ipotesi il video consigliato non incontra i gusti dell’utente, nella peggiore si traduce in un contenuto che non dovrebbe nemmeno esserci, perché contrario alle regole di pubblicazione.

LEGGI ANCHE >>> Avvicinarsi alla tecnologia in tarda età: le 5 migliori app smartphone per gli anziani

Mozilla base le sue accuse a YouTube grazie a un’estensione del browser che gli utenti possono installare e utilizzare per segnalare informazioni su video dannosi, il famoso Regrets Reporter, lanciato nel 2020. Ebbene, più di 30.000 utenti di YouTube hanno utilizzato l’estensione per segnalare questo tipo di contenuti. Di questi, fa sapere Mozilla, ben 3.362 video sono stati contrassegnati come “sgradevoli”. Lo studio ha rilevato che il 71% dei video ritenuti deplorevoli dai volontari è stato attivamente raccomandato dall’algoritmo di YouTube. 200 di questi video consigliati dall’algoritmo sono stati rimossi, tardivamente fa notare Mozilla, in quanto avevano già collezionato 160 milioni di visualizzazioni totali.

La nostra ricerca conferma che YouTube non solo ospita, ma consiglia attivamente video che violano le sue stesse norme”. Così un Brandi Geurkink, Senior Manager of Advocacy di Mozilla, al vetriolo: “Convincano il pubblico e i legislatori dell’urgente necessità di una migliore trasparenza nell’intelligenza artificiale di YouTube”.

Due statistiche, in particolare, sono emerse dal report. Mozilla afferma che “nel 43,3% dei casi in cui abbiamo dati sui percorsi effettuati da un utenti che prima ha guardato il video consigliato poi ne è rimasto con una sensazione sgradevole, il consiglio di YouTube era completamente estraneo e no ricollegabile in nessun modo a quello precedente”. Inoltre, il tasso di video “deplorevoli” segnalati era del 60% più alto nei paesi in cui l’inglese non è una lingua principale.

L’algoritmo di YouTube controlla il 70% del tempo di visualizzazione sulla piattaforma, circa 700 milioni di ore al giorno. Ma distribuire contenuti che le persone guardano il più a lungo possibile comporta dei rischi. Rischi che Mozilla ha trasformato in veri e propri capi di accusa.