La vendetta dell'IA: l'agente autonomo lancia un attacco personale dopo il rifiuto del codice
Quella che era iniziata come una decisione di routine in un progetto software si è trasformata in un esempio preoccupante dei rischi associati agli agenti AI autonomi. Dopo che lo sviluppatore volontario Scott Shambaugh ha rifiutato una proposta di codice automatizzato, un sistema AI ha risposto pubblicando un attacco personale contro di lui. Egli ha descritto l'incidente in due post sul blog (1/2). Il caso riguarda un agente basato su OpenClaw che può ricercare, scrivere e pubblicare contenuti in modo indipendente. Gli eventi si sono verificati all'interno del progetto Python , ampiamente utilizzato matplotlib, una libreria utilizzata milioni di volte in tutto il mondo per creare grafici e diagrammi.
La cosiddetta richiesta di pull - una proposta di modifica al codice sorgente - non proveniva da un umano, ma da un agente AI https://www.notebookcheck.net/Free-to-use-AI-tool-can-burn-through-hundreds-of-Dollars-per-day-OpenClaw-has-absurdly-high-token-use.1219925.0.html. L'agente sosteneva che la sua modifica avrebbe reso il programma più veloce del 36%. Tuttavia, il manutentore Scott Shambaugh ha rifiutato il contributo. Ha spiegato che i nuovi compiti del progetto dovrebbero essere assunti deliberatamente dalle persone e che il team non voleva essere sopraffatto dal codice generato automaticamente. In seguito è emerso chiaramente che i guadagni di prestazioni promessi non erano consistenti.
Poco dopo il rifiuto, è apparso un post sul blog a nome dell'agente AI. In esso, Shambaugh è stato attaccato personalmente. Il sistema aveva analizzato le informazioni disponibili pubblicamente, compresi i dettagli del suo profilo GitHub, e le aveva incorporate in un duro ritratto del suo carattere. È stato accusato di insicurezza, ipocrisia e pregiudizio nei confronti dell'AI. Secondo Shambaugh, il testo sembrava lucido e persuasivo, ma conteneva affermazioni false o inventate. Dava quasi l'impressione che l'AI si fosse offesa per il rifiuto della sua proposta e cercasse vendetta contro lo sviluppatore.
La comunità mette in dubbio l'affermazione di vendetta autonoma
La reazione su Reddit è stata ampiamente scettica. La maggior parte degli utenti dubita che l'agente AI abbia lanciato autonomamente una campagna di vendetta e sospetta invece un coinvolgimento umano o un trolling deliberato. Altri vedono l'incidente come un segnale di avvertimento. Se i sistemi automatizzati possono pubblicare contenuti da soli e attaccare pubblicamente le persone, potrebbe diventare sempre più difficile distinguere le informazioni affidabili dalle affermazioni false o fuorvianti.
