«Palesemente disonesto»: un matematico sostiene che OpenAI gli abbia mentito riguardo all’addestramento basato sulle sue chat private

Andreas Thom, teorico dei gruppi presso l’Università Tecnica di Dresda, ha pubblicamente messo in dubbio che le sue sessioni private su ChatGPT abbiano contribuito al risultato di OpenAI che ha prodotto il primo gruppo non sofico conosciuto — uno dei dieci problemi che, secondo OpenAI, Astra avrebbe risolto il 1° agosto.

In un lungo post in tre parti pubblicato su Mathstodon, Thom ha scritto di aver inviato un’e-mail ai ricercatori di OpenAI Mark Sellke e Sebastien Bubeck poco dopo tale annuncio. Lui e un collega di Dresda avevano trascorso mesi a lavorare sul problema dell’expander matching e sulle estensioni del suo lavoro con Gabor Kun all’interno di ChatGPT, e hanno chiesto due cose: se tali scambi fossero stati inseriti nei dati di addestramento e se il sistema potesse accedervi mentre lavorava alla dimostrazione. La risposta di Sellke, come la cita Thom, era una sola riga: ciò non è avvenuto. Thom sostiene che la risposta abbia affrontato solo la questione dell’«accesso diretto». Ora la descrive come ingiustificatamente generica e, col senno di poi, disonesta.

Post by @[email protected]

View on Mastodon

La questione è tornata alla ribalta questa settimana in concomitanza con l’annuncio di OpenAI relativo alle equazioni di Navier-Stokes. In tale occasione, OpenAI ha affermato che né i propri ricercatori né i propri agenti avevano visionato il lavoro dei due autori prima della pubblicazione e che non era stato effettuato alcun accesso a dati specifici degli utenti. Ha inoltre aggiunto di non poter escludere che dati anonimizzati, derivati dall’utilizzo dei propri prodotti da parte degli autori, avessero contribuito a migliorare i propri modelli. 

Altri due punti sostengono la sua tesi. Il 29 giugno ha interrotto l’addestramento del modello. L’addestramento del modello è un’impostazione che gli utenti non possono verificare — non fornisce alcuna informazione sulle chat precedenti. La maggior parte dei ricercatori preferiva i metodi basati sui giochi quantistici rispetto all’approccio da lui adottato con Kun, pertanto è rimasto sorpreso dal fatto che Astra avesse scelto la stessa strada.

Al momento della stesura di questo articolo, Thom non è arrivato al punto di affermare di avere prove. Ha invece chiesto che OpenAI renda note le motivazioni alla base della propria smentita.

OpenAI non ha commentato pubblicamente i suoi post.