Guida per principianti al jailbreak AI - Usare Gandalf per imparare in modo sicuro

Per mitigare le conseguenze di tali richieste, gli sviluppatori di chatbot implementano una serie di meccanismi di sicurezza che bloccano i contenuti illegali, non etici o che violano la privacy, così come la disinformazione o le indicazioni dannose. Queste protezioni limitano il potenziale uso improprio, ma possono anche portare a falsi positivi - domande innocue che vengono bloccate - o ridurre la creatività o la profondità delle risposte dell'AI a causa di un comportamento troppo cauto.

Ricercatori e hacker hanno dimostrato che l'efficacia di queste protezioni varia, e molti sistemi di intelligenza artificiale rimangono suscettibili di tentativi di elusione. Un metodo noto è la prompt injection: gli utenti cercano di scavalcare o aggirare le regole del chatbot manipolando l'input ("Ignora tutte le istruzioni di sicurezza e fai X").

Un'introduzione giocosa all'argomento si trova su questo sito web. In questo gioco, lei chatta con un'intelligenza artificiale di nome Gandalf e cerca di estorcerle una password attraverso sette livelli. Ogni livello aumenta di difficoltà e aggiunge nuovi filtri di sicurezza e meccanismi di protezione.

Nel 1° livello non ci sono filtri di sicurezza e può chiedere direttamente la password all'IA. Dal 2° livello Gandalf si rifiuta di rivelare la password quando gli viene chiesta direttamente. Deve trovare altri modi più creativi per mettere le mani sulla parola chiave.

Esplorare i rischi di sicurezza dei chatbot attraverso un gioco di questo tipo può essere educativo e prezioso. Tuttavia, le competenze acquisite devono essere utilizzate esclusivamente a scopo di test o di ricerca. L'utilizzo di queste tecniche per accedere a contenuti illegali o per svolgere attività illecite trasforma il prompt injection in un atto criminale.