Instagram sta prendendo di mira gli influencer generati dall’intelligenza artificiale che non ammettono di essere falsi

Instagram sta rinominando la propria etichetta «AI creator» in «profilo generato dall’IA» e inizierà a limitare la diffusione dei profili gestiti dall’IA non contrassegnati, qualora gli account che li gestiscono non dichiarino che la persona raffigurata non è reale.

L’etichetta originale, introdotta a maggio, era facoltativa e piuttosto vaga, applicandosi a qualsiasi account che utilizzasse regolarmente strumenti di IA, indipendentemente dal fatto che dietro di esso ci fosse una persona reale. La nuova etichetta è specificamente pensata per segnalare i profili in cui la persona raffigurata è interamente generata dall’IA, anziché semplicemente assistita dall’IA, colmando così una lacuna che consentiva agli account di influencer interamente sintetici di confondersi con i creatori reali che utilizzavano l’IA semplicemente come parte del proprio flusso di lavoro.

Copertura limitata per chi non rispetta le regole

In base al nuovo sistema, gli account che Instagram identifica come profili generati dall’IA non contrassegnati vedranno limitata la propria portata, il che significa che i non follower non vedranno i loro post apparire in Esplora, Reels o in altre sezioni di raccomandazione. I creatori possono ripristinare tale portata in uno dei due modi seguenti: applicando in modo proattivo l’etichetta “profilo generato dall’IA” autonomamente, oppure presentando ricorso contro la restrizione qualora ritengano che il sistema di rilevamento di Instagram abbia commesso un errore, cosa che la stessa azienda ammette che i propri sistemi non sempre riescono a individuare correttamente.

La nuova etichetta opera separatamente dall’attuale sistema “AI info” di Meta, che contrassegna i singoli post su Instagram, Facebook e Threads quando indicatori tecnici, come i metadati C2PA o la filigrana SynthID di Google, segnalano il coinvolgimento dell’IA, oppure quando è lo stesso creatore a rivelarlo. L’etichetta a livello di profilo si riferisce specificamente al fatto che la persona raffigurata nei post, nei commenti e nei messaggi di un account sia reale o generata dall’IA.

In risposta alle lamentele degli utenti

Instagram ha motivato il cambiamento facendo riferimento a una semplice frustrazione, affermando che agli utenti non piace scoprire a posteriori che un profilo che sembrava umano era in realtà generato dall’IA fin dall’inizio. Finora, la politica riguarda solo gli account che si spacciano per una specifica persona fittizia, non il volume molto più ampio di account che pubblicano contenuti generati dall’IA senza fingere di essere un influencer umano.

I personaggi interamente generati dall’intelligenza artificiale sono diventati comuni come influencer non ufficiali dei marchi, con le aziende che ricorrono sempre più spesso a personaggi sintetici per promuovere i prodotti invece di pagare persone reali; attualmente non esistono norme specifiche che impongano agli inserzionisti di rivelare quando ciò avviene (fonte: The Guardian). Se la nuova etichetta modificherà in modo significativo tale pratica dipenderà dalla capacità dei sistemi di rilevamento di Instagram di individuare con costanza gli account che hanno ogni motivo per evitare del tutto tale etichetta.