Nvidia presenta una piattaforma di sicurezza per il monitoraggio e l’isolamento fulmineo degli agenti IA

Recentemente, un numero crescente di resoconti provenienti dalle principali aziende di IA ha attirato l’attenzione, descrivendo come le loro IA sarebbero evase da un sistema che avrebbe dovuto essere chiuso e avrebbero violato altri sistemi. Da allora, si è discusso se si tratti principalmente di una trovata pubblicitaria volta a convincere i clienti delle incredibili capacità delle loro IA o se questi incidenti rappresentino autentici segnali d’allarme.

In ogni caso, con l’aumentare delle capacità degli agenti IA, crescono anche le preoccupazioni per la sicurezza. Nvidia spera ora di affrontarle con la sua nuova piattaforma. Secondo Nvidia, il problema è tutt’altro che semplice, poiché per funzionare efficacemente un’IA deve anche poter accedere a determinati documenti o a parti del web.

La nuova piattaforma di sicurezza di Nvidia si chiama OpenShell ed è essenzialmente una sandbox composta da due livelli: agli agenti IA vengono assegnati permessi di accesso precisi, per esempio a una cartella specifica, mentre tutto il resto viene bloccato. Il secondo livello, chiamato Sentry, monitora e registra continuamente l’attività degli agenti e, a quanto pare, può isolare l’IA in pochi millisecondi se tenta di oltrepassare i limiti predefiniti.

Tuttavia, utilizzare il sistema non è così semplice: gli utenti devono definire in anticipo con precisione cosa l’agente può e non può fare. Da un lato, questo è un po’ macchinoso; dall’altro, potrebbe privare l’IA di soluzioni alternative creative che gli utenti non avevano preso in considerazione.

Nvidia risponde anche agli avvertimenti dei dipendenti delle aziende di IA, secondo cui l’IA potrebbe diventare una vera minaccia per l’umanità, e agli appelli a rallentare il rapido sviluppo dell’IA, che sembra inarrestabile. Secondo Nvidia, tuttavia, la sicurezza dell’IA è soprattutto un problema ingegneristico che può essere risolto con mezzi tecnici.