I creatori del video sull’incidente della Xiaomi vengono condannati al carcere mentre la Cina intensifica la repressione dei deepfake relativi ai veicoli elettrici

La Cina sta adottando misure severe nei confronti degli influencer sui social media che realizzano filmati falsi di incidenti o diffondono voci maliziose sui veicoli elettrici. Gli utenti in Cina hanno cercato di giustificare la propria guida in stato di ebbrezza o pericolosa adducendo come scusa i sistemi di guida autonoma o avanzando false affermazioni relative a frenate e accelerazioni incontrollate. La divisione veicoli elettrici di Xiaomi, in particolare, non sembra trovare tregua dai creatori di contenuti proprio mentre la linea Skynomad EREV dell’azienda si preparava al lancio.

Negli ultimi mesi, Xiaomi ha ripetutamente reso pubbliche segnalazioni relative a campagne diffamatorie generate dall’intelligenza artificiale e rivolte alle proprie auto e ai propri dirigenti. Il caso più recente ha coinvolto due utenti che hanno falsificato filmati di crash test, realizzati per far sembrare che i veicoli Xiaomi avessero fallito in caso di collisione. La polizia cinese ha reagito con provvedimenti di fermo amministrativo e multe, e Xiaomi afferma che i post incriminati sono stati nel frattempo rimossi.

Non si è trattato di un episodio isolato, poiché già a giugno le autorità di Xi’an avevano smantellato un’operazione di più ampia portata. Tre agenzie di contenuti MCN e oltre una dozzina di individui sono stati accusati di aver prodotto in massa video e post generati dall’intelligenza artificiale mirati contro Xiaomi; diversi sospetti sono stati formalmente arrestati e le attrezzature sequestrate. Xiaomi ha avvertito che l’uso improprio dell’intelligenza artificiale per diffondere disinformazione «avrà delle conseguenze», un messaggio chiaramente volto a scoraggiare gli emulatori tanto quanto a punire i trasgressori del passato.

Xiaomi non è sola in questa lotta, poiché anche NIO ha dovuto affrontare una strategia quasi identica. L’innovativa casa automobilistica ha recentemente reso noto che la polizia ha arrestato un sospettato che avrebbe utilizzato strumenti di intelligenza artificiale per diffondere contenuti inventati sull’azienda attraverso migliaia di account sui social media, totalizzando nel frattempo decine di milioni di visualizzazioni. NIO ha inoltre intentato diverse cause civili per diffamazione contro alcuni blogger nel corso dell’ultimo anno e ha segnalato un’ulteriore ondata di attacchi rivolti al proprio marchio Onvo e alla rete di sostituzione delle batterie, temporalmente sospettosamente vicina al lancio dei propri nuovi modelli.

Si tratta di un problema ben noto in tutto il settore cinese dei veicoli elettrici in generale, dove le autorità hanno intensificato i provvedimenti contro filmati di incidenti inventati e simulazioni di guasti alla sicurezza, in alcuni casi con l’ausilio dell’intelligenza artificiale, volti a danneggiare la reputazione delle case automobilistiche rivali in un mercato sempre più spietato. Anche BYD ha intrapreso la stessa strada legale, ottenendo di recente una sentenza a proprio favore contro un blogger per affermazioni inventate sui propri componenti.

Per Xiaomi, in particolare, la posta in gioco appare più alta, poiché gli EREV Skynomad rappresentano il primo passo dell’azienda nel settore dei veicoli a autonomia estesa, una categoria sempre più popolare in Cina che ora offre un’autonomia in modalità puramente elettrica superiore a 300 miglia prima che entri in funzione il generatore a benzina. Trattandosi per lo più di veicoli familiari, la fiducia nelle dichiarazioni relative alla sicurezza può determinare il successo o il fallimento dello slancio iniziale delle vendite.

Non è ancora chiaro se queste campagne di disinformazione siano semplici provocazioni opportunistiche o qualcosa di più coordinato, ma Xiaomi sembra intenzionata a dare un esempio punitivo a chiunque venga sorpreso a falsificare le riprese. La lotta parallela di NIO suggerisce che non si tratti di un problema specifico di Xiaomi, bensì di una difficoltà strutturale per qualsiasi marchio cinese di veicoli elettrici che si appresta a un lancio di grande portata.