Google Gemini è un potenziale pericolo per le smart home?

Una recente scoperta nel campo della sicurezza informatica ha sollevato nuove preoccupazioni sull’integrazione degli assistenti basati sull'Intelligenza Artificiale nel contesto delle smart home.
In seguito a una ricerca portata avanti da alcuni ricercatori dell’Università di Tel Aviv, Google Gemini potrebbe essere manipolato da hacker per prendere il controllo a distanza di elettrodomestici e altri dispositivi smart.
Stando a chi ha effettuato lo studio, si parla di vulnerabilità nascoste in inviti di Google Calendar, risultando un chiaro esempio delle tecniche note come prompt injection possano tradursi in azioni reali dannose, anche a livello domestico.
Secondo le ricostruzioni, gli aggressori potrebbero inserire nei titoli degli eventi di Google Calendar comandi malevoli nascosti, chiamati promptware, che rimangono invisibili all’utente. Quando Gemini legge e sintetizza il calendario per l’utente, questi comandi si attivano senza alcun segnale evidente.
I cybercriminali utilizzano poi parole comuni per attivare l'attacco, che facilmente l'utente andrà prima o poi a pronunciare. Una volta che lo stesso userà tale parole, i malintenzionati potranno aprire finestre, spegnere luci o attivare il riscaldamento.
Non solo: i cybercriminali potrebbero cancellare eventi, avviare chiamate Zoom o interagire in altro modo con la casa e i dispositivi elettronici presenti in essa.

Gemini e gli attacchi alle smart home: la contromossa di Google

Il sistema mostrato dagli studiosi può avvalersi di due tecniche chiamate short-term context poisoning e long-term memory poisoning, che permettono di integrare istruzioni non previste originariamente nell'attacco.
Google è stata informata di queste falle già lo scorso mese di febbraio e ha dichiarato di aver implementato diverse strategie difensive. Tra di esse possiamo citare il  sistemi di filtraggio degli URL e rilevamento avanzato di iniezioni di prompt tramite classificatori di contenuto.
Andy Wen, direttore della sicurezza di Google Workspace, ha riconosciuto l’importanza di questa vulnerabilità e la difficoltà di prevenirla, sottolineando come l'azienda si stia impegnando per trovare adeguate contromosse..
Questa scoperta indica chiaramente che, benché Gemini rappresenti una frontiera innovativa per la domotica, la sicurezza informatica deve adeguarsi rapidamente per evitare che exploit nascosti con conseguenze dirette sulla vita degli utenti.
D'altro canto, come sottolineato da diversi siti e piattaforme di informazione, questo episodio segna un punto di svolta nel rapporto tra domotica e sicurezza informatica. Sia Google che i singoli consumatori, da oggi dovranno fare molto più attenzione al proprio ecosistema domestico.
Fonte immagine: blog.google