The Pulse
Studenti fanno causa dopo che un allarme dell’IA scambia dei Doritos per un’arma
Quattro studenti ed ex studenti della contea di Baltimore fanno causa dopo che un allarme di un sistema di rilevamento delle armi basato sull’IA ha provocato l’intervento della polizia armata. I loro avvocati sostengono che gli agenti li abbiano fermati e perquisiti anche se l’allarme era stato annullato.

Quattro studenti ed ex studenti della contea di Baltimore fanno causa ai produttori e agli utilizzatori di un sistema di rilevamento delle armi basato sull’IA, che avrebbe scambiato un sacchetto di Doritos per un’arma da fuoco. Gli avvocati dei ricorrenti sostengono che l’allarme abbia portato la polizia armata nella loro scuola, dove i ragazzi sono stati costretti a inginocchiarsi, ammanettati e perquisiti.
Fonte lawyerscommittee.org
Il Lawyers' Committee for Civil Rights Under Law ha presentato il caso il 17 novembre presso il tribunale circuitale della contea di Baltimore. La causa cita come convenuti Omnilert, il sistema scolastico e il suo personale, il dipartimento di polizia della contea e singoli agenti.
L’allarme e l’intervento della polizia
Taki Allen, Yui-Osa Ogbeide, Devon Thompson Jr. e Keith Winfield III sono i quattro ragazzi neri rappresentati nel caso. L’episodio è avvenuto alla Kenwood High School nell’ottobre 2025 e ha coinvolto Omnilert Gun Detect, un sistema utilizzato in tutte le scuole pubbliche della contea di Baltimore.
Allen stava mangiando Doritos Cool Ranch mentre parlava con alcuni amici all’esterno della scuola, ha riferito The Banner. Secondo il suo racconto al giornale, ha messo il sacchetto in tasca prima che arrivasse la polizia, gli puntasse contro le armi e gli ordinasse di sdraiarsi a terra. Gli agenti lo hanno ammanettato e perquisito, ha raccontato Allen al giornale; ha detto che hanno trovato il sacchetto di patatine.
Gli avvocati sostengono che il sistema abbia lanciato un allarme indicando una probabilità del 90% che ci fosse un’arma da fuoco nel campus. Secondo la loro ricostruzione, il personale scolastico e la polizia hanno esaminato l’immagine e stabilito che l’allarme era stato generato per errore, ma gli agenti armati sono stati comunque inviati alla scuola.
La gestione dell’allarme contestata
Il comitato afferma che i funzionari scolastici e di polizia hanno annullato l’allarme, ma non disponevano di procedure adeguate per impedire che un allarme annullato provocasse un intervento armato. La causa sostiene inoltre che i funzionari scolastici sapessero che il sistema generava regolarmente falsi allarmi.
Secondo The Banner, la causa accusa la preside Catherine Smith di non aver riconosciuto l’annullamento né verificato se l’allarme fosse ancora attivo. Invece, scrive il giornale, la causa sostiene che abbia inviato un fermo immagine del filmato all’agente di polizia scolastica, che l’ha poi inoltrato alla polizia.
In un resoconto fornito l’anno scorso, i funzionari scolastici hanno dichiarato che la preside aveva avvisato l’agente di polizia scolastica senza sapere che l’ufficio di sicurezza aveva archiviato l’incidente, secondo The Banner. La testata ha inoltre riferito che Omnilert aveva dichiarato che il proprio team di monitoraggio aveva verificato e inoltrato al team per la sicurezza del sistema scolastico, affinché la valutasse, un’immagine che sembrava mostrare un’arma da fuoco.
La risposta dell’azienda e i rimedi richiesti
Blake Mitchell, portavoce di Omnilert, ha dichiarato a The Banner che l’azienda stava esaminando la causa e si rammaricava per la paura vissuta dagli studenti e dalle loro famiglie. La testata ha riferito che i funzionari scolastici hanno rifiutato una richiesta di intervista e che quelli della polizia della contea hanno declinato ogni commento.
The Banner ha riferito che un’indagine del 2025 condotta dall’Office of the Inspector General for Education del Maryland non ha riscontrato pregiudizi da parte di Omnilert nell’allarme errato. Secondo la testata, il rapporto ha attribuito la minaccia percepita al movimento della mano dello studente, compresi la posizione e l’angolazione.
La denuncia sostiene che siano stati violati i diritti costituzionali federali e statali dei ragazzi, oltre a configurarsi negligenza e colpa grave. Gli studenti chiedono un risarcimento non quantificato e hanno chiesto al tribunale di impedire al sistema scolastico di utilizzare Omnilert finché non miglioreranno la formazione e i protocolli, ha riferito The Banner.
Il Lawyers' Committee chiede anche modifiche alle procedure di polizia e scolastiche, tra cui la verifica delle segnalazioni provenienti dalle piattaforme di rilevamento delle minacce basate sull’IA e l’adozione di politiche volte a impedire che falsi allarmi provochino interventi armati. A rappresentare gli studenti sono anche Willkie Farr & Gallagher ed Engel Law Group.
Fonti
- Fonte originale Lawyers' Committee for Civil Rights Under Law lawyerscommittee.org
Altre pagine lette
- The Banner thebanner.com
Notizie correlate
- ICE cerca un sistema di IA per analizzare chiamate, messaggi e video dei detenuti
- Organizzazioni non profit fanno causa a cinque sviluppatori di IA per fermare modelli più capaci
- I genitori fanno causa a Google per le chat con Gemini tramite AI Mode sul Chromebook scolastico della figlia
- La fondatrice di Muslim Girl fa causa a xAI per presunti deepfake di Grok
- Un rapporto della California propone verifiche indipendenti obbligatorie per l’IA di frontiera