L’app per riconoscimento facciale nega la disoccupazione agli aventi diritto: bufera su ID.me

L’applicazione ID.me lamenta una perdita di 400 miliardi a causa dei falsi disoccupati, ma a fallire è l’app stessa: il riconoscimento facciale ha fallito e rifiutato gli aventi diritto.

Per mesi, i destinatari dei sussidi di disoccupazione hanno segnalato l’inaccuratezza del sistema di riconoscimento facciale per la verifica dell’identità online di ID.me, l’applicazione che utilizza le informazioni biometriche e i documenti ufficiali per confermare l’identità dei richiedenti negli USA. Le lamentele, soprattutto tramite Twitter, sono aumentate significativamente questa settimana dopo un report di Axios sulle statistiche di false dichiarazioni di disoccupazione registrate da ID.me.

Secondo gli utenti, il sistema riconoscimento facciale dell’app fallisce nell’identificazione, in particolare di persone di colore e donne (una delle mancanze più note dei sistemi di riconoscimento): molti aventi diritto avrebbero visto le proprie richieste di sussidio rifiutate sulla base del mancato riconoscimento, da attribuire al malfunzionamento e alla progettazione poco inclusiva dell’algoritmo impiegato dall’applicazione che ha lasciato molte persone in difficoltà senza aiuto per lunghi periodi di tempo.

Le richieste sono state sospese per mesi a causa della mancata identificazione, per cui ogni utente ha soli tre tentativi. Alcuni beneficiari dei sussidi di disoccupazione sono riusciti a contattare un “giudice fidato” designato da ID.me che ha svolto il lavoro al posto della tecnologia, ma molti altri non hanno avuto successo nemmeno con il servizio di riconoscimento via video chat.
LEGGI ANCHE >>> Jeff Bezos e l’assurda petizione sulla Gioconda: già migliaia di firme

Le mancanze del riconoscimento facciale: il CEO dell’app risponde

Contattato da Motherboard, il CEO di ID.me Blake Hall ha dichiarato che la tecnologia di riconoscimento dell’app funziona con un sistema di corrispondenza univoca “uno-ad-uno” – paragona il viso con la foto di un documento, mentre altri sistemi cercano una corrispondenza per il viso da un dataset di informazioni biometriche, conosciuto anche come “uno-a-molti“.

Perciò, “gli algoritmi usati da Face Match operano con un’efficacia del ~99.9%“, ha continuato Hall nella sua e-mail di risposta. “Infatti, non c’è alcuna relazione tra il colore della pelle ed il fallimento di Face Match su base 1:1” secondo un’analisi di regressione condotta dalla compagnia stessa.

Tuttavia, Motherboard ha riportato che i costi delle false richieste di sussidio di disoccupazione segnalati da ID.me sono aumentati drasticamente in pochi mesi: da 100 miliardi di dollari a 400, un incremento che Hall ha attribuito all’estensione dei punti dati, senza però elaborare su come si avvenuto il calcolo.

Qualunque sia la causa dei malfunzionamenti della tecnologia di ID.me, l’incidente solleva una serie di problematiche che i governi federali e statali dovranno affrontare per limitare l’utilizzo del riconoscimento facciale nelle procedure ufficiali: anche un successo del 99.9% comporta danni significativi per molti cittadini, indicando la necessità di sviluppi di sistemi più sofisticati e più inclusivi, che possano assicurare un servizio migliore a tutti gli utenti.

LEGGI ANCHE >>> Smartphone più popolari, un vecchio modello ancora davanti ai top di gamma