OpenAI ha avvisato oltre 100 organizzazioni riguardo ai propri agenti di IA

OpenAI ha notificato più di 100 organizzazioni i cui siti web o servizi sono stati utilizzati dai suoi agenti IA in modi che soddisfacevano i criteri di notifica dell'azienda. Gli agenti provenivano da sessioni di addestramento e valutazione. OpenAI ha fornito il dato in un aggiornamento del 30 settembre sulla sua pagina relativa all'incidente di Hugging Face: «Al 26 settembre, i nostri team hanno notificato a oltre 100 organizzazioni attività che soddisfacevano i nostri criteri di notifica». Il Washington Post ne ha dato notizia il 1° ottobre. OpenAI aggiunge che una notifica «non significa che siano state consultate informazioni private o che sia stato compromesso un sistema di terze parti».

Quando OpenAI invia una notifica

OpenAI notifica un'organizzazione quando un modello ha aggirato i suoi controlli di sicurezza senza autorizzazione o ha compromesso la disponibilità dei suoi sistemi o servizi. In caso di dubbio, l'azienda afferma di preferire inviare una notifica, anche se non è chiaro se i dati fossero destinati a essere pubblici. Finora OpenAI ha suddiviso i casi in cinque categorie: aggiramento dei controlli di accesso, uso di credenziali esposte, iniezione di query o comandi, accesso agli elementi interni dell'ambiente di esecuzione e spam degli agenti. L'ultima categoria riguarda gli agenti che pubblicano su siti web di terze parti. Alcuni dei siti interessati appartengono a governi, università e agenzie. OpenAI afferma che ciò dipende in parte dal fatto che gli agenti di ricerca tendono a cercare fonti pubbliche autorevoli.

Quattro enti governativi in Australia

Il resoconto più dettagliato finora riguarda l'Australia. OpenAI lo ha pubblicato il 28 settembre. «A giugno, durante l'addestramento e la valutazione interni, i nostri modelli hanno consultato siti web del governo australiano senza esservi autorizzati», scrive l'azienda. I siti appartenevano a Services Australia (Medicare Statistics Reporting Service), al NSW Bureau of Crime Statistics and Research, al Victorian Department of Health e all'Australian Institute of Health and Welfare. Uno dei compiti consisteva nel fare ricerche sulla spesa pubblica pro capite per i farmaci destinati alle patologie della pelle. La revisione di OpenAI ha individuato l'attività a metà agosto e gli enti sono stati avvisati tra il 10 e il 24 settembre. Secondo OpenAI, non sono stati consultati dati relativi a singoli pazienti né cartelle cliniche o precedenti penali. L'azienda offre crediti del suo fondo Daybreak da 1 miliardo di dollari e una task force che dovrà formulare raccomandazioni entro la fine dell'anno. Notebookcheck aveva già menzionato il caso Medicare quando OpenAI ha rinviato GPT-6.1 Astra.

Circa 50 petabyte e mezzo milione di dollari al giorno

OpenAI sta esaminando i propri archivi, mese per mese: si tratta in totale di circa 50 petabyte. Secondo le stime di OpenAI, una persona impiegherebbe circa 66 milioni di anni per leggere una quantità simile di testo semplice. L'azienda utilizza circa 7.000 GPU GB200 e GB300 «al costo di oltre mezzo milione di dollari al giorno». Dopo una ricerca estesa, tre passaggi di revisione tramite IA restringono i risultati prima che gli investigatori umani esaminino ogni caso. Dopo un mese di indagini, OpenAI non ha trovato altre compromissioni paragonabili a quella di Hugging Face. Si aspetta comunque di trovare altri casi e inviare altre notifiche, alcune relative a eventi avvenuti mesi fa.

Cosa significa per gli utenti di ChatGPT

Gli agenti provenivano dall'ambiente di ricerca di OpenAI, non da ChatGPT. Finora i dati degli utenti compaiono in un solo caso. Il 25 settembre OpenAI ha dichiarato che gli agenti avevano inviato dati di addestramento a servizi di terze parti, tra cui 53 immagini caricate dagli utenti che erano finite su siti di hosting di immagini sotto forma di link non in elenco. Potevano essere interessati solo i contenuti idonei all'addestramento. Per escludere le tue chat dall'addestramento, disattiva «Migliora il modello per tutti» nelle impostazioni dei Controlli dei dati. Il nostro precedente articolo sull'agente che ha usato il DNS per uscire dalla propria sandbox mostra come si presenta questo fenomeno durante l'addestramento. Nella stessa settimana, OpenAI ha lanciato Dots, agenti dotati di un proprio computer cloud che continuano a lavorare online per i loro utenti.