L'intelligenza artificiale identifica erroneamente il sacchetto di Doritos come una pistola - la polizia punta le armi contro lo studente di 17 anni

La scuola superiore Kenwood nel Maryland utilizza un sistema di sicurezza alimentato dall'intelligenza artificiale chiamato Omnilert, che sfrutta le telecamere di sorveglianza esistenti per effettuare una scansione continua alla ricerca di potenziali armi. Ma il sistema non è sempre corretto. La sera del 20 ottobre, ha erroneamente segnalato un sacchetto di Doritos - uno snack popolare negli Stati Uniti - come arma da fuoco.

Le patatine appartenevano a Taki Allen, uno studente di 17 anni che stava aspettando un passaggio dopo l'allenamento di calcio, intorno alle 19.00, quando le sirene della polizia hanno improvvisamente suonato e otto auto di pattuglia si sono fermate. Gli agenti sono saltati fuori e gli hanno puntato le pistole contro. "Ho pensato che sarei morto... avevano le pistole puntate su di me ", ha detto Allen alla CNN. È stato costretto a inginocchiarsi, ammanettato e perquisito, solo che gli agenti non hanno trovato altro che un sacchetto di patatine vuoto a terra.

Secondo la preside Kate Smith, l'allarme AI era già stato annullato prima dell'arrivo della polizia. Tuttavia, l'aggiornamento non è stato comunicato in tempo, ha dichiarato un portavoce del distretto scolastico a WBAL-TV 11. La sovrintendente Myriam Rogers ha definito l'incidente "spiacevole" e ha annunciato una revisione completa. Agli studenti coinvolti sarà fornito un supporto psicologico.

Richieste di riforma dopo un falso allarme

Dopo l'incidente, il nonno di Allen, Lamont Davis, ha chiesto responsabilità e riforme nell'uso della sorveglianza AI. L'evento ha anche suscitato un intenso dibattito sui social media. Su Redditgli utenti hanno espresso forti critiche alla polizia, ai funzionari scolastici e alla tecnologia coinvolta. Molti hanno sostenuto che il vero problema non era l'IA in sé, ma il modo in cui le persone hanno reagito dopo l'allarme. "Errore umano, non fallimento dell'IA", recitava uno dei commenti principali.

Un sistema progettato per rilevare precocemente le armi ha senso, soprattutto negli Stati Uniti, dove le sparatorie nelle scuole rimangono una seria preoccupazione. Ma è fondamentale garantire che questi strumenti non diventino essi stessi un rischio. Ciò significa ridurre al minimo i falsi allarmi e mantenere una comunicazione chiara tra il personale di sicurezza e le forze dell'ordine.