La Corte Suprema infligge una sanzione a un avvocato per aver utilizzato ChatGPT in un processo per omicidio

La Corte Suprema del New Mexico ha recentemente dichiarato l’avvocato di Santa Fe Stephen Aarons colpevole di oltraggio alla corte dopo che questi aveva presentato una memoria d’appello contenente testimonianze e testimoni inventati da ChatGPT. Lo scorso anno, Aarons stava difendendo un cliente condannato per omicidio quando ha utilizzato il chatbot per sintetizzare gli atti processuali, per poi depositare il documento risultante senza alcuna revisione preliminare. La memoria includeva dichiarazioni attribuite a testimoni inesistenti, oltre a commenti inventati e falsamente attribuiti a un testimone reale.

La risposta della corte è stata secca. Il giudice C. Shannon Bacon ha chiesto in modo incisivo ad Aarons se seguisse minimamente le notizie, vista la frequenza con cui le «allucinazioni» dell’intelligenza artificiale nei documenti legali hanno fatto notizia, e ha suggerito che egli avesse ignorato il fenomeno oppure avesse giocato d’azzardo in modo sconsiderato con il caso del proprio cliente. Aarons, che esercita la professione legale da oltre quattro decenni, ha ammesso la propria «stupidità», aggiungendo di aver erroneamente supposto che il software avrebbe prodotto una sintesi affidabile.

Oltre al rimprovero, il tribunale ha inflitto una multa di 5.000 dollari, da versare a un fondo di tutela dei clienti, e ha deferito la questione al consiglio disciplinare degli avvocati dello Stato. Il caso fa seguito a diversi altri episodi in cui alcuni avvocati hanno subito sanzioni o provvedimenti disciplinari dopo aver presentato in tribunale materiale generato dall’IA non verificato (1, 2, 3).