Anthropic ha scoperto che alcuni scienziati chiedevano aiuto a Claude per la ricerca sulle armi biologiche

Anthropic, l’azienda che ha sviluppato Claude AI, ha recentemente segnalato e bloccato diversi scienziati che tentavano di utilizzare i suoi modelli di intelligenza artificiale per il potenziale sviluppo di armi biologiche. Un nuovo rapporto sulle minacce pubblicato dall’azienda descrive in dettaglio un uso improprio su vasta scala della propria piattaforma Claude AI. L’indagine evidenzia cinque casi specifici che coinvolgono scienziati attivi nel campo della ricerca su agenti patogeni altamente pericolosi. Individuare questo tipo di uso improprio rimane estremamente complesso, poiché la ricerca biomedica legittima spesso rispecchia da vicino lo sviluppo di un’arma biologica.

In un caso degno di nota risalente a maggio, il classificatore interno di sicurezza biologica di Anthropic ha intercettato una richiesta di redigere una domanda di finanziamento per una ricerca di «guadagno di funzione» sul virus chikungunya. Questo agente patogeno trasmesso dalle zanzare provoca sintomi debilitanti e attualmente non dispone di alcun trattamento autorizzato. La ricerca proposta mirava ad aumentare la trasmissibilità del virus e la sua capacità di eludere le risposte immunitarie.

Il fatto che tale ricerca fosse collegata a un istituto militare ha immediatamente acuito le preoccupazioni dell’azienda. Anthropic ha inoltre bloccato un altro tentativo riguardante una ricerca sul guadagno di funzione relativa all’influenza aviaria, incentrata sull’adattamento dell’agente patogeno per consentirne una più facile diffusione tra i mammiferi. Un’altra richiesta intercettata riguardava un ricercatore che utilizzava Claude per mappare i peptidi delle tossine velenose e ottimizzarne le caratteristiche.

Anthropic ha reagito bloccando definitivamente gli account associati a tali attività. L’azienda ha utilizzato i risultati ottenuti per rafforzare le proprie misure di sicurezza contro futuri abusi. Il rapporto sottolinea che i modelli più recenti dimostrano una crescente competenza nella gestione di compiti scientifici sofisticati.

Tale capacità li rende obiettivi estremamente allettanti per soggetti alla ricerca di un vero e proprio assistente di ricerca nel campo dell’ingegneria biologica complessa. Anthropic ha scelto di mantenere anonime le identità e le istituzioni degli scienziati coinvolti. L’azienda ha dichiarato che l’identificazione di questi professionisti potrebbe esporli a pericoli fisici, sottolineando che i ricercatori potrebbero non aver avuto l’intenzione esplicita di causare danni.