Google sotto accusa: l’assistente AI ora fa tremare gli esperti di sicurezza

È stata scoperta una falla clamorosa nell’AI di Google, Gemini, e che sta sollevando molteplici dubbi tra gli esperti di sicurezza.

Come sappiamo, il modello di intelligenza artificiale lanciato da Google, chiamato Gemini, è entrato ormai a far parte della nostra quotidianità. Sfruttiamo l’assistente virtuale per creare o comprendere contenuti, oppure per interagire. Nelle conversazioni, Gemini si è rivelato davvero un modello avanzatissimo, tanto che da migliaia di persone viene utilizzato anche per la gestione della casa.

Basta collegare Gemini con Google Home per gestire l’intera abitazione, connettendo tutti i dispositivi presenti. Una bella soluzione che rendere più semplice e comoda la vita quotidiana, eppure, gli esperti di informatica hanno recentemente scoperto una falla in questo sistema di gestione e che rischia di compromettere tutti i dispositivi per la smart home.

Rischio sistema di sicurezza per la smart home utilizzando la AI Gemini di Google

Un recente report divulgato da Wired ha messo in evidenza una certa vulnerabilità del sistema smart home gestito dall’intelligenza artificiale di Google. In certi casi, è possibile prendere la gestione di tutti i dispositivi domestici smart, una falla che mette tutti gli hacker e i cybercriminali in una posizione di vantaggio, e che ovviamente comporta numerosi rischi per l’utente.

Si tratta di una vera e propria falla nel sistema di sicurezza domestico. Gli esperti di informatica, nei loro test, hanno potuto sfruttare un attacco di prompt injection indiretto, appoggiandosi proprio a Gemini, attraverso il calendario di Google. Non tutti sanno che anche attraverso una semplice App come il calendario, è possibile ricavare numerose informazioni personali.

La AI riesce infatti a prelevare informazioni personali e gli hacker possono sfruttare questo trucchetto per venire in possesso di info private ma soprattutto per poter sfruttare Gemini a proprio piacimento. Si tratta di un grosso problema, basti pensare a come i criminali possano disinserire i sistemi di allarme di un’abitazione ed entrare in casa senza alcun disturbo. Oppure come possono cancellare video delle telecamere di sicurezza.

Google chiamato ad affrontare grossi problemi di sicurezza: la sua Gemini comporta dei rischi

In particolare, quando l’utente ringrazia Gemini per il riassunto, ecco che si rischia di innescare questo trigger, attivando un comando nascosto e facendo compiere ai vari dispositivi domestici azioni indesiderate. Secondo quanto dichiarato da Andy Wen, il direttore di Google Workspace, l’agenzia per la sicurezza di Google, gli attacchi prompt injection rappresentano una nuova sfida. Chat WhatsApp in pericolo: come non farle leggere a GEMINI e perché è importante impedirlo.

Ancora sono abbastanza rari nel mondo, ma comunque rappresentano un rischio in più con cui dover combattere. Inoltre, mano a mano che la AI diventa sempre più avanzata, si potrà accedere ai dispositivi con più facilità, rendendo questo problema ancora più complesso da risolvere. Google nel frattempo sta sviluppando alcuni strumenti di sicurezza per contrastare questo tipo di minacce. Google Gemini, hai già visto il nuovo pannello segreto? Provalo subito.