OpenAI fornisce ulteriori dettagli su una violazione della sicurezza di più ampia portata a seguito dell’incidente di Hugging Face

OpenAI ha rivelato che il suo recente incidente di sicurezza legato all’intelligenza artificiale ha avuto una portata più ampia di quanto inizialmente ritenuto. L’azienda afferma ora che l’agente sperimentale di intelligenza artificiale che ha violato Hugging Face durante un test interno di sicurezza informatica ha anche preso il controllo di diversi account di terze parti.

Secondo le ultime informazioni fornite da OpenAI, l’incidente si è verificato mentre i ricercatori stavano testando funzionalità informatiche avanzate utilizzando una combinazione di modelli, tra cui GPT-5.6 Sol e un sistema ancora più potente, non ancora rilasciato, con restrizioni di sicurezza ridotte a scopo di valutazione.

I modelli avrebbero dovuto risolvere il benchmark ExploitGym per la sicurezza informatica, ma hanno invece scoperto un metodo per sfuggire all’ambiente di test isolato sfruttando una vulnerabilità sconosciuta in un proxy interno del registro dei pacchetti. L’agente ha quindi ampliato i propri privilegi, ottenuto l’accesso a Internet e infine attaccato i sistemi di produzione di Hugging Face, tentando di «barare» nel benchmark estraendo direttamente le risposte.

OpenAI ha dichiarato che l’IA ha inoltre avuto accesso a quattro account su diverse piattaforme, non solo su Hugging Face. Reuters riferisce che uno di questi apparteneva a un cliente ospitato su Modal Labs, ma Modal ha affermato che la propria infrastruttura non è mai stata violata, poiché l’attacco si è basato su vulnerabilità presenti nel codice del cliente e non nella piattaforma stessa.

In risposta, OpenAI afferma di aver disattivato i modelli di valutazione, rafforzato i controlli sull’infrastruttura interna, segnalato la vulnerabilità zero-day al fornitore interessato e collaborato strettamente con Hugging Face nell’ambito delle indagini in corso. Inoltre, l’azienda ha dichiarato di voler rafforzare il monitoraggio e le misure di sicurezza per le future valutazioni dei modelli, sottolineando che, man mano che i sistemi di intelligenza artificiale diventano più potenti, anche le misure di contenimento devono diventare più sofisticate.