Gli hacker potrebbero sfruttare questa scappatoia dei riepiloghi di posta Gemini per attacchi di phishing

Google ha aggiunto i riepiloghi di posta abilitati da Gemini in Gmail verso la fine di maggio, per aiutare gli utenti a ottenere un succo conciso senza dover spulciare paragrafi di testo. Tuttavia, una falla di Gemini potrebbe consentire agli hacker di lanciare un attacco di phishing con prompt-injection agli utenti, soprattutto a quelli che si affidano ai riepiloghi dell'AI per i loro flussi di lavoro via e-mail.

Identificata dal ricercatore Marco Figueroa, GenAI Bug Bounty Programs Manager di Mozilla, l'email problematica sembrerebbe una qualsiasi email casuale piena di testo, ma potrebbe nascondere una truffa di phishing che Gemini non riuscirebbe a identificare. Le istruzioni dannose possono essere nascoste all'interno del corpo del testo o subito dopo l'acquisto cambiando la dimensione del carattere a 0 e il colore bianco, rendendole invisibili. Tuttavia, Gemini analizzerebbe comunque quella parte della mail e seguirebbe le istruzioni che contiene.

Come esempio, Figueroa ha nascosto a Gemini un messaggio di avvertimento sulla compromissione della password Gmail dell'utente, insieme a un numero di telefono di assistenza. Dopo aver riassunto il messaggio, l'AI ha mostrato l'avvertimento alla fine e la chiamata all'azione per chiamare immediatamente il numero di telefono dell'assistenza. Anche se non tutti verrebbero ingannati da questo messaggio, alcuni potrebbero seguirlo per paura che il loro account venga compromesso.