Riconoscere i deepfakes: Difficile, ma non senza speranza

Molti studi attuali che trattano il problema dei "deepfakes" sono preoccupanti. I falsi creati con l'intelligenza artificiale possono mettere messaggi pubblicitari in bocca a celebrità o mostrare politici in foto che non sono mai state scattate.

Se si mette questo materiale di fronte a delle persone, i risultati sono sempre simili, come ha raccolto la rivista "Science". Si può anche lanciare una moneta per decidere cosa è reale e cosa no.

Dopotutto, si dice che uno dei motivi dei risultati infelici sia che il fenomeno dei deepfakes è relativamente nuovo e quasi nessuno si trova a dover decidere tra contenuti falsi e autentici nella vita di tutti i giorni.

E purtroppo manca anche la consapevolezza dei semplici mezzi con cui le labbra di una persona, ad esempio, possono essere sincronizzate con una nuova dichiarazione.

Una ricetta non semplice

Tuttavia, ci sono alcuni studi interessanti che offrono una piccola speranza. Ad esempio, è stato scoperto che la corteccia visiva reagisce in modo completamente diverso ai volti generati dall'AI rispetto alle fotografie reali. Purtroppo, altri processi cerebrali si sovrappongono a questo segnale, per cui, come prima, i soggetti del test non sono né migliori né peggiori nel riconoscere i falsi.

Tuttavia, ci sono alcuni segnali ed è possibile imparare a riconoscere le immagini false. A volte le mani appaiono completamente sbagliate e sembrano avere sei o solo quattro dita. A volte appaiono gambe che non appartengono a nessuno. Molto spesso, le ombre cadono in modo errato - sul colletto della camicia a sinistra e dagli occhiali da sole a destra.

Ma ovviamente l'IA sta migliorando e questi punti deboli evidenti stanno diventando sempre più rari. Ma poi entra in gioco un altro fenomeno. Allenandosi su un numero sempre maggiore di materiali, i volti diventano più uniformi, più regolari e più perfetti. Non ci sono difetti e imperfezioni. Anche le forme del corpo sono idealizzate piuttosto che naturali. Questo sembra meno bello e più inquietante.

Per inciso, questo vale anche per le voci false. L'AI non tende a generare i tipici lapsus, una breve balbuzie o una mancanza di qualità di registrazione.

Più il falso diventa complesso, più è facile da individuare. Se, ad esempio, si deve verificare l'autenticità solo di una registrazione sonora, la maggior parte fallisce. Se c'è anche un video, meglio se con sottotitoli, un numero significativamente maggiore di soggetti riconosce il contenuto falso.

Dopotutto, chi sa che le immagini e i video possono essere manipolati e creati in questo modo e che la tecnologia ha alcuni punti deboli, può riconoscere i deepfake in modo più affidabile. Per il resto, vale ciò che è sempre stato vero: non fa mai male essere critici e fare domande.