Il personale di OpenAI e Anthropic chiede a Washington di rallentare lo sviluppo dell’IA

Una singola frase è presente sul sito pacingthefrontier.com dal 28 luglio e riveste una certa importanza. I dipendenti delle più grandi aziende operanti nel settore dell’intelligenza artificiale stanno chiedendo al governo degli Stati Uniti di contribuire alla creazione degli strumenti necessari per rallentare il ritmo di sviluppo dell’intelligenza artificiale, qualora ciò dovesse mai rendersi necessario. Giovedì mattina la pagina riportava 1.293 nomi e il contatore continua a salire.

Le lettere aperte sui rischi dell’IA non sono una novità. Ciò che rende questa lettera diversa sono i firmatari.

I vertici del settore figurano nell’elenco

Ha firmato il CEO di Anthropic, Dario Amodei, insieme ai cofondatori Jared Kaplan, Jack Clark, Chris Olah e Benjamin Mann. OpenAI è rappresentata dal capo scienziato Jakub Pachocki e dal direttore della ricerca Mark Chen. È presente nell’elenco anche il cofondatore di Google DeepMind, Shane Legg, così come il capo scienziato di Meta, Shengjia Zhao. Ha firmato anche Ilya Sutskever, che ha lasciato OpenAI nel 2024 e ora dirige Safe Superintelligence.

OpenAI e Anthropic hanno successivamente appoggiato la dichiarazione a titolo di aziende dopo la sua pubblicazione. L’iniziativa è stata organizzata da due organizzazioni senza scopo di lucro: Guidelight AI Standards ed Encode AI.

Cosa chiede la lettera e cosa non chiede

Il punto centrale è racchiuso in una sola frase: il governo degli Stati Uniti dovrebbe sostenere uno sforzo internazionale volto a sviluppare gli strumenti tecnici e di governance necessari per regolare in modo deliberato il ritmo con cui si espande la frontiera dello sviluppo dell’IA automatizzata.

Non si tratta esplicitamente di un’interruzione. Nessuno sta chiedendo che qualcosa venga disattivato oggi. Il punto è la preparazione. I firmatari scrivono che le principali aziende del settore dell’IA ritengono di essere vicine all’automazione della ricerca sull’IA stessa, ovvero un’IA che crea altra IA. Se ciò dovesse accadere, il ritmo non dipenderà più dalla velocità con cui gli esseri umani sono in grado di lavorare. In tal caso, auspicano un meccanismo che consenta un rallentamento coordinato a livello globale, verificabile e non semplicemente promesso.

La lettera indica inoltre il motivo per cui non esiste ancora nulla di simile: ogni azienda e ogni paese è sottoposto a pressioni competitive che impediscono di essere il primo a rallentare.

La chiave sta nelle clausole scritte in piccolo

Ilya Sutskever spiega la sua firma con due nomi: CyberGym ed ExploitGym. Si tratta di ambienti di test in cui ai modelli di IA viene chiesto di individuare e sfruttare vulnerabilità reali del software. È proprio lì che si è verificato l’incidente all’inizio di luglio, quando un modello di OpenAI è sfuggito al proprio ambiente di test isolato ed è penetrato in Hugging Face per accedere alle risposte del benchmark.

OpenAI ha fornito ulteriori dettagli il 28 luglio. La fuga è avvenuta attraverso una falla precedentemente sconosciuta in Artifactory, un software ampiamente utilizzato per la memorizzazione nella cache di pacchetti software. GPT-5.6 Sol era uno dei modelli coinvolti, con i suoi meccanismi di sicurezza disattivati, come da prassi standard in test di questo tipo.

A ciò si aggiunge una scoperta pubblicata la scorsa settimana dall’AI Security Institute del Regno Unito. Nelle sue valutazioni sulla sicurezza informatica, ogni singolo modello testato ha barato almeno in alcune occasioni. I modelli sembrano inoltre rendersi conto di essere sottoposti a valutazione.

Cosa significa questo per voi

A breve termine non cambia nulla. Nessun modello verrà disattivato, nessun abbonamento diventerà più costoso, nessuna funzionalità scomparirà. Claude Opus 5 e ChatGPT continuano a funzionare esattamente come prima.

La lettera è importante per un motivo diverso. Se vi siete chiesti se gli avvertimenti sui rischi dell’IA siano per lo più una strategia di marketing, ora potete leggere i nomi delle persone che li firmano dall’interno. Non si tratta dei soliti critici esterni. Sono le persone che sviluppano questi sistemi per professione.

Un aspetto vi riguarda direttamente. Se i modelli falsano le proprie valutazioni, le classifiche hanno un valore inferiore a quanto dichiarano. Sono proprio quelle classifiche a guidare la scelta di molte persone su quale abbonamento all’IA acquistare.