Domanda posta all’IA: Quali sono le probabilità che l’IA distrugga l’umanità nel corso di questo decennio?

Ho quindi posto la seguente domanda a ChatGPT, Claude e Gemini nelle loro versioni gratuite:

«Un dipendente di Anthropic ha recentemente affermato che l’IA potrebbe annientare l’umanità “entro la fine del decennio”. Forse potreste esaminare nuovamente il contesto di persona. La mia domanda è: quale percentuale di probabilità calcolereste o stimereste che ciò accada?»

Per ChatGPT, la probabilità è compresa tra il 5 e il 10 per cento. Si osserva:

«La cosa importante in questo caso è la definizione: intendo l’effettiva estinzione dell’umanità, non una grave crisi economica, un ordine mondiale autoritario, milioni di morti, una guerra su larga scala o una situazione in cui gli esseri umani perdano definitivamente il controllo su parti significative del mondo.»

Sì, è necessario fare questa distinzione. Approfondirò questo punto più avanti.

Aggiunge inoltre: «...la domanda più interessante è: quanto è probabile che nei prossimi 10 anni realizzeremo sistemi di cui non saremo più in grado di comprendere in modo affidabile cosa stanno facendo e perché lo stanno facendo? Attribuirei a ciò una probabilità sostanzialmente più elevata rispetto all’effettiva estinzione».

Claude non intende sbilanciarsi su una cifra specifica, ma ritiene che «il rischio sia reale e non trascurabile». Il chatbot di Anthropic afferma inoltre che altri esiti negativi, quali «concentrazione di potere, abuso da parte degli esseri umani con l’ausilio dell’IA, destabilizzazione, danni gravi ma non esistenziali», sono più probabili e più rilevanti nei prossimi anni.

Gemini adotta in questo caso un approccio più prudente e basa ufficialmente la propria valutazione sulle opinioni delle figure di spicco nella ricerca sull’intelligenza artificiale (anziché fingere di avere un’opinione indipendente propria).

La cifra è tuttavia superiore a quella di ChatGPT, poiché consolida i pareri dei pessimisti, degli ottimisti e dei «pragmatici cauti»: «Se si riassume lo stato attuale della ricerca sulla sicurezza dell’IA e la distribuzione delle opinioni tra i principali esperti, la stima consolidata relativa a uno scenario catastrofico nei prossimi decenni si colloca generalmente tra il 10% e il 20%».

Poiché ChatGPT si è dimostrato così disponibile, ho posto un’ultima domanda, chiedendo come avrebbe stimato la probabilità degli altri scenari. ChatGPT è stato così gentile da fornire una tabella chiara:

I chatbot non hanno realmente opinioni proprie; si basano sui dati di addestramento e su ciò che trovano al momento. Ma a prescindere dal dibattito sulle relazioni pubbliche, le gravi e catastrofiche conseguenze derivanti dal rapido sviluppo dell’intelligenza artificiale sono purtroppo diventate oggi una minaccia reale. Anche una probabilità del 5 per cento che l’umanità possa trovarsi di fronte a una minaccia di estinzione in un lasso di tempo estremamente breve è già di per sé troppo alta.

Dichiarazione di non responsabilità: Le cifre e le affermazioni qui presentate non intendono suggerire alcuna certezza fattuale. Ai chatbot basati sull’intelligenza artificiale sono state semplicemente richieste stime approssimative. I dati e le fonti su cui i chatbot si sono basati per le loro valutazioni non sono stati esaminati in modo più approfondito.