Claude è ora in grado di lasciare un segno invisibile nei Suoi testi, anche se li ha scritti Lei stesso

Anthropic ha introdotto un nuovo sistema che incorpora filigrane invisibili direttamente nel testo generato da Claude. A differenza dei metadati allegati a un documento o a un’immagine, il nuovo sistema di marcatura è progettato per seguire il testo generato quando viene copiato e incollato altrove e può persino persistere anche in seguito a successive modifiche.

L’Unione Europea può attribuirsi almeno in parte il merito, o la responsabilità, di tale sviluppo. Anthropic afferma di aver sottoscritto il Codice di condotta sull’articolo 50, paragrafo 2, della legge UE sull’IA relativo alla trasparenza dei contenuti generati dall’IA, in qualità di fornitore sia di modelli che di sistemi di IA generativa. Il suo nuovo schema di contrassegnazione rappresenta il modo in cui l’azienda intende attualmente mettere in pratica tali impegni, sebbene la società lo stia implementando a livello mondiale anziché limitarlo al blocco responsabile dell’impulso normativo.

L’azienda afferma che tutti i modelli Claude lanciati a partire dal 2 agosto 2026 supporteranno la tecnologia sin dal lancio. Anthropic intende inoltre estenderla, nel corso del tempo, anche ai modelli precedenti. Il sistema non è limitato ai mercati in cui i requisiti di etichettatura dei contenuti generati dall’IA potrebbero rendere necessarie tali misure, poiché l’azienda lo sta implementando a livello mondiale.

Anthropic non specifica come funzioni la filigrana

Secondo Anthropic, la filigrana viene integrata direttamente nel testo generato da Claude senza alterare visibilmente la risposta risultante. Ciò la rende fondamentalmente diversa dai metadati di provenienza convenzionali, che possono semplicemente scomparire nel momento in cui il contenuto viene separato dal file originale.

Il modo preciso in cui Anthropic riesca a ottenere questo risultato rimane in parte un mistero. L’azienda ha finora rifiutato di pubblicare una documentazione tecnica dettagliata che spieghi come la filigrana testuale venga incorporata o rilevata. Sostiene tuttavia che la marcatura non influisca sul «significato, sulla qualità o sullo stile» delle risposte di Claude.

Il sistema si estende inoltre ben oltre il chatbot Claude destinato ai consumatori. Anthropic afferma che i modelli supportati producono testo contrassegnato quando vi si accede tramite Claude, Claude Code, Cowork, la propria API e piattaforme cloud di terze parti. Gli sviluppatori che utilizzano i modelli Claude tramite mezzi non nativi non sono quindi esenti dal nuovo regime di provenienza.

Anthropic prevede infine di rendere disponibili a terzi i meccanismi di rilevamento, sebbene non abbia ancora rivelato come funzioneranno tali strumenti né, di fatto, chi sarà autorizzato a utilizzarli.

Ironia della sorte, la presenza di una filigrana di Claude non dimostra che sia stato proprio Claude a scrivere il testo

Esiste, tuttavia, un’avvertenza piuttosto rilevante. Il rilevamento della filigrana di Claude non implica necessariamente che sia stato proprio Claude a redigere il materiale in questione. Qualsiasi contenuto che passi attraverso Claude può potenzialmente acquisire tale marchio, rendendo la sua presenza una prova del coinvolgimento di Claude piuttosto che una prova della paternità da parte dell’IA.

La stessa Anthropic riconosce che un testo scritto interamente da esseri umani può acquisire una filigrana dopo essere stato elaborato da Claude. Un autore potrebbe, ad esempio, scrivere un intero articolo da solo e utilizzare Claude semplicemente per correggerlo, tradurlo o modificarlo. Il testo risultante potrebbe comunque presentarsi con il marchio invisibile di Claude.

Chiunque sia determinato a liberarsi di tale filigrana dovrà ricorrere a un'ampia revisione, parafrasi, traduzione o combinazione dell’output di Claude con altro materiale, vanificandone di fatto lo scopo originario. Sembra inoltre inevitabile che la tecnologia dia origine a una miriade di attività artigianali dedicate alla rimozione della temuta filigrana dai testi generati da Claude.

La situazione che ne deriva è quindi piuttosto peculiare. Un risultato positivo può indicare che Claude abbia elaborato un testo in un determinato momento, ma non può stabilire in modo definitivo che sia stato scritto da Claude. Al contrario, l’assenza di una filigrana rilevabile non dimostra necessariamente che Claude non sia mai stato coinvolto. 

Ciò ridurrà effettivamente la «scadenza» dell’IA? Probabilmente no

Ciò ci riporta essenzialmente al punto di partenza, poiché la presenza, o l’assenza, della filigrana di Claude non dimostra nulla. La diffusione dei contenuti di scarsa qualità generati dall’IA, a quanto pare, proseguirà senza ostacoli, almeno per il prossimo futuro. 

Ciò costituisce tuttavia un precedente preoccupante per altre aziende del settore dell’IA, che senza dubbio seguiranno l’esempio di Anthropic e cercheranno di integrare meccanismi di tracciabilità nei propri risultati generati dall’IA. «Non contaminiamo i nostri risultati con contrassegni invisibili», diventerà quindi uno slogan di marketing legittimo per le aziende del settore dell’IA nel prossimo futuro. 

Le immagini e alcuni altri file generati utilizzando Claude vengono gestiti in modo diverso. Anthropic utilizza le credenziali di contenuto C2PA per i risultati non testuali supportati, allegando informazioni di provenienza firmate crittograficamente ai file generati anziché sottoporli alla stessa tecnica di filigranatura del testo.

Per ora, forse la domanda più importante a cui non si è ancora data risposta è in cosa consista effettivamente la marcatura testuale invisibile di Claude. Se il sistema dovesse influenzare la selezione dei token durante la generazione, la sua implementazione e il potenziale effetto sull’output del modello potrebbero rivelarsi notevolmente più interessanti rispetto alla provenienza convenzionale basata sui metadati.

Anthropic afferma che in futuro verrà pubblicata ulteriore documentazione tecnica relativa al proprio approccio alla filigranatura. Fino ad allora, ciò che Claude sta facendo esattamente dietro le quinte rimane sconosciuto.