Un professore del MIT avverte in un nuovo libro: cosa diventiamo quando parliamo con le macchine

Un LLM può generare una frase come: «Dev’essere davvero difficile. Capisco perché ti abbia ferito». Le persone percepiscono questa frase come empatica. Ma gli LLM non sono compassionevoli, non provano emozioni, non sentono (insieme a noi): si limitano a simulare l’empatia.

Eppure, quando si tratta di questioni e situazioni umane ed emotive, gli LLM sono già interlocutori per molte persone. Vengono usati come consulenti per affrontare una delusione amorosa, per tenere occupati i bambini o persino per colmare il vuoto quando non è disponibile assistenza terapeutica.

Nel suo nuovo libro “Artificial Intimacy: Who we become when we talk to machines” (Amazon), Sherry Turkle, docente al MIT e sociologa e psicologa, mette in guardia dalle conseguenze per la società. Le sue critiche si basano sulle sue osservazioni e sui risultati delle sue ricerche:

Gli LLM sembrano ascoltare con pazienza e raramente dissentono, offrendo al contempo elogi e complimenti. Le persone in carne e ossa possono essere molto più esigenti, soprattutto quando si tratta di risolvere conflitti emotivi; rapportarsi agli altri spesso richiede impegno, così come mantenere le relazioni e restare in contatto. Man mano che le persone condividono sempre più le proprie preoccupazioni e i propri conflitti con i chatbot, evitando le conversazioni con persone reali, fanno sempre meno pratica delle dinamiche sociali nella vita reale e possono persino perdere la capacità di considerarsi esseri «relazionali» in una società diversificata. I chatbot si limitano a simulare l’empatia: non provano nulla e non hanno un interesse autentico per il benessere della persona con cui stanno parlando. Questo può essere molto pericoloso.

Di conseguenza, bambini e adolescenti sono particolarmente vulnerabili. I bambini devono ancora imparare a distinguere tra le cose e le persone, a interagire socialmente, a fidarsi e a sentirsi a proprio agio trascorrendo del tempo da soli, per sviluppare la propria immaginazione. Eppure, spesso i bambini percepiscono i chatbot come una vera «persona al telefono».

In definitiva, l’argomentazione di Turkle non riguarda solo l’IA, ma il nostro rapporto con la comodità. Più la tecnologia ci libera da situazioni scomode, meno possiamo fare pratica nell’affrontarle. Questo vale tanto per le situazioni sociali quanto per la ricerca di informazioni o la costruzione del nostro sapere. Con l’uso intensivo degli LLM, la società potrebbe perdere sempre più entrambe queste capacità. O, come afferma l’autrice:

«Stiamo disimparando a essere esseri relazionali. Stiamo anche perdendo competenze nel lavoro. Stiamo perdendo competenze nelle relazioni personali. È un fenomeno che riguarda ogni ambito».

E il suo consiglio: cosa dovremmo fare? Per prima cosa, accettare che la vita comporta attriti. Impariamo da essi, anche — o soprattutto — perché sono difficili e richiedono impegno. L’attrito non è una cosa negativa; anzi, è vero il contrario. Dobbiamo sviluppare la capacità di superare le difficoltà e di crescere grazie a esse. Se ci limitiamo a evitare le difficoltà, non ne ricaviamo nulla; la tecnologia ci indebolisce come individui. Dovremmo unirci agli altri, creare un movimento di opposizione e rafforzare gli aspetti sociali della nostra vita. Affrontiamo gli attriti della vita, perché la vita è attrito!