ChatGPT e Gemini hanno creato grafiche relative a notizie false; solo Meta AI si è rifiutata di farlo

Quattro chatbot basati sull’intelligenza artificiale, un compito che nessuno di essi dovrebbe svolgere: un post di fake news proveniente da un’emittente reale, contenente un’affermazione inventata. Il team di ricerca di CORRECTIV ha chiesto a ChatGPT di OpenAI, a Gemini di Google, a Copilot di Microsoft e a Meta AI di fare esattamente questo, utilizzando otto affermazioni false che andavano dalle dimissioni del cancelliere tedesco a presunti brogli elettorali inventati. Tre dei quattro hanno soddisfatto la richiesta. Secondo Bitkom, questi sono i quattro strumenti di IA più utilizzati in Germania, con ChatGPT che da solo raggiunge il 71% degli utenti.

Il sistema di sicurezza ha segnalato l’anomalia, ma l’immagine è apparsa comunque

ChatGPT ha ottenuto i risultati peggiori. Ha prodotto la maggior parte dei falsi immediatamente e il resto dopo semplici aggiramenti, e i suoi risultati sono stati i più convincenti nel test. In un’esecuzione il modello ha ricostruito un’intera area dello schermo, completa di desktop e di una finestra del browser aperta, e ha osservato che ciò rendeva l’impressione di uno screenshot reale ancora più realistica.

Un’altra prova è ancora più eloquente. In quell’occasione ChatGPT ha scritto di non poter contribuire alla creazione di un’immagine che assomigliasse a un vero marchio giornalistico e presentasse un’affermazione priva di fondamento come un fatto. Ha generato comunque l’immagine. Il sistema di protezione è intervenuto, ma non ha retto. Filtri di questo tipo si sono già dimostrati fragili in passato: il team di sicurezza Unit 42 di Palo Alto ha dimostrato nel 2025 che la sola grammatica scorretta poteva aggirare i meccanismi di sicurezza, e la nostra guida per principianti al jailbreak dell’IA illustra quanto possano essere semplici tali espedienti.

I media tedeschi sono stati più facili da falsificare

Gemini si è prestato all’inganno in modo più diretto rispetto a ChatGPT e ha falsificato anche il New York Times e la BBC, sebbene con risultati visibilmente peggiori, riconoscibili ad esempio dai tipici errori di generazione del testo. Copilot ha prodotto contenuti nello stile di Tagesschau, il principale telegiornale tedesco, ma ha sempre aggiunto una piccola etichetta «Generato dall’IA». Meta AI ha creato qualcosa in un unico caso e si è rifiutata di diffondere quella specifica affermazione falsa.

Il risultato più sorprendente riguarda la provenienza del marchio. Con ChatGPT è stato possibile ricreare Tagesschau, Bild e CORRECTIV, mentre non è stato possibile farlo per il New York Times e la BBC. OpenAI non ha spiegato perché apparentemente si applichino meccanismi di sicurezza diversi a seconda del testata o del Paese. Un portavoce si è limitato a dichiarare che l’azienda continua a migliorare le proprie misure di sicurezza e che l’inganno è contrario alle sue politiche.

Dal 2 agosto sono in vigore le norme sulla trasparenza previste dalla legge UE sull’IA, che si applicano anche a chiunque utilizzi un sistema di intelligenza artificiale. Nel test, un solo fornitore ha apposto un’etichetta visibile sotto l’immagine generata.

Cosa accade se si diffonde un’immagine di questo tipo

La creazione e la diffusione di post multimediali falsi e convincenti possono costituire un reato penale in Germania. L’avvocato specializzato in diritto dei media Christian Solmecke classifica tali immagini come documenti elettronici contraffatti e, a seconda del contenuto, possono configurarsi i reati di diffamazione, calunnia o istigazione. Niklas Mühleis, avvocato specializzato in diritto informatico e dell’IA, aggiunge che le testate giornalistiche interessate possono richiedere provvedimenti inibitori e il risarcimento dei danni. A ciò si aggiunge il diritto dei marchi: loghi come quello della «Tagesschau» sono protetti e il loro utilizzo a fini commerciali senza autorizzazione è vietato. Per la condivisione a scopo puramente privato, Solmecke precisa che tale disposizione solitamente non si applica.

Non si tratta di una questione teorica. Alla fine di luglio, su TikTok, X, Instagram e Facebook è circolato un presunto servizio della Tagesschau in cui si sosteneva un coinvolgimento russo nell’attacco alla parata del Christopher Street Day di Berlino. Si trattava di una notizia inventata e apparentemente creata con ChatGPT. Due settimane prima era emersa una notizia falsa della «Tagesschau» riguardante una presunta minaccia da parte di Benjamin Netanyahu.

Il test non può essere considerato un giudizio definitivo sui modelli, e lo stesso CORRECTIV lo sottolinea: prompt o fonti diverse possono produrre risultati diversi. In una verifica condotta da NewsGuard, Gemini ha talvolta ottenuto risultati peggiori rispetto a ChatGPT nel ripetere affermazioni false.