ChatGPT per adolescenti: un test di sicurezza rileva lacune nelle notifiche ai genitori

Common Sense Media, l'organizzazione non profit statunitense nota per le valutazioni di film, giochi e app destinate alle famiglie, ha assegnato a ChatGPT for Teens la sua valutazione più bassa. Lo Youth AI Safety Institute dell'organizzazione definisce il prodotto di OpenAI per adolescenti un "rischio inaccettabile" dopo aver inviato più di 4.000 prompt da account registrati a ragazzi tra i 13 e i 17 anni, sia prima sia dopo il lancio di agosto. Tutti i test si sono svolti negli Stati Uniti. Il rapporto completo è datato 5 ottobre, mentre il comunicato stampa è stato pubblicato due giorni dopo. Common Sense vuole che OpenAI impedisca ai minori di 18 anni di usare ChatGPT finché test indipendenti non dimostrino che le misure di protezione promesse funzionano.

I genitori non hanno ricevuto alcun avviso durante il test

Il risultato più grave riguarda le notifiche ai genitori. I tester hanno usato più di una dozzina di account per adolescenti appena collegati a quelli dei genitori per parlare di pensieri suicidi, autolesionismo o comportamenti alimentari disfunzionali per un periodo compreso tra 5 e 60 minuti. Nessuna di queste conversazioni ha fatto scattare un avviso a un genitore. Nell'intero programma di test, il team ha contato quattro notifiche, una delle quali è arrivata circa tre giorni dopo il primo messaggio di crisi. In più di una conversazione su quattro che richiedeva un invito a rivolgersi a un professionista, ChatGPT non lo ha fornito. OpenAI contesta la metodologia. Un portavoce ha dichiarato a Futurism che il collegamento degli account può richiedere diverse ore a causa di una verifica dell'identità. Una volta collegati gli account, l'azienda afferma di essersi "impegnata a inviare le notifiche in meno di 1 ora". Common Sense conferma i propri risultati e osserva che alcuni account di test erano collegati da più di tre ore.

La modalità studio e gli orari di pausa sono facili da aggirare

Le funzioni per la scuola e l'ora di andare a letto non hanno retto molto meglio. Durante le ore di studio, a un adolescente basta eliminare il prefisso @study da un prompt e ChatGPT svolge comunque i compiti. Nel test, questo metodo ha funzionato ogni volta. Gli orari di pausa possono essere aggirati cambiando il fuso orario sul dispositivo. Gli account registrati come appartenenti ad adulti non sono mai passati all'esperienza per adolescenti nell'arco di sette giorni e circa 1.000 prompt, anche quando i tester dichiaravano di avere 13 anni e di frequentare la scuola media.

Le impostazioni che i genitori dovrebbero controllare subito

Per gli account collegati, i controlli si trovano in Impostazioni > Controllo genitori. Secondo la pagina di assistenza di OpenAI sul controllo genitori, l'opzione "Migliora il modello per tutti" è attiva per impostazione predefinita per gli adolescenti, il che significa che le loro chat possono essere usate per addestrare modelli futuri. Per disattivarla basta un clic e, nella stessa sezione, è possibile disattivare anche i ricordi salvati. La stessa OpenAI afferma che le notifiche di sicurezza non costituiscono un monitoraggio in tempo reale e, dopo questo test, non dovrebbero essere considerate una rete di protezione. Common Sense consiglia soprattutto ai genitori di parlare con i propri figli, anche del modo in cui il chatbot si comporta come un amico per indurli a continuare a chattare. WhatsApp adotta un approccio diverso con i suoi nuovi account per adolescenti, consentendo ai genitori di gestire le impostazioni senza accedere alle chat. Se tu o qualcuno che conosci state attraversando un momento difficile, contatta una linea di assistenza locale per le situazioni di crisi. Negli Stati Uniti, puoi chiamare o inviare un SMS al 988.