The Pulse
Estudantes processam após alerta de IA sobre arma confundir Doritos com uma arma
Quatro alunos e ex-alunos do condado de Baltimore estão processando depois que um alerta de detecção de armas por IA levou a uma resposta policial armada. Seus advogados dizem que os policiais os detiveram e revistaram, embora o alerta tivesse sido cancelado.

Quatro alunos e ex-alunos do condado de Baltimore estão processando os criadores e usuários de um sistema de detecção de armas por IA após ele supostamente confundir um pacote de Doritos com uma arma de fogo. Os advogados dos autores da ação dizem que o alerta levou policiais armados à escola, onde os adolescentes foram obrigados a se ajoelhar, algemados e revistados.
Fonte lawyerscommittee.org
O Lawyers' Committee for Civil Rights Under Law entrou com o processo em 17 de novembro no Baltimore County Circuit Court. A ação cita como réus a Omnilert, o sistema escolar e seus funcionários, o departamento de polícia do condado e policiais individualmente.
Um alerta e uma resposta policial
Taki Allen, Yui-Osa Ogbeide, Devon Thompson Jr. e Keith Winfield III são os quatro adolescentes negros representados no processo. O incidente ocorreu na Kenwood High School em outubro de 2025 e envolveu o Omnilert Gun Detect, um sistema usado em toda a rede Baltimore County Public Schools.
Allen estava comendo Doritos Cool Ranch enquanto conversava com amigos do lado de fora da escola, informou o The Banner. Segundo o relato dele ao veículo, ele colocou o pacote no bolso antes de a polícia chegar, apontar armas para ele e mandá-lo se deitar no chão. Os policiais o algemaram e revistaram, contou Allen ao veículo; ele disse que encontraram o pacote de salgadinhos.
Os advogados dizem que o sistema emitiu um alerta indicando 90% de probabilidade de haver uma arma no campus. Eles alegam que funcionários da escola e policiais analisaram a imagem e concluíram que o alerta era um engano, mas, mesmo assim, policiais armados foram enviados à escola.
Tratamento do alerta é contestado
O comitê afirma que autoridades da escola e da polícia cancelaram o alerta, mas não tinham procedimentos suficientes para impedir que um aviso cancelado provocasse uma resposta armada. A ação também alega que autoridades da escola sabiam que o sistema gerava alertas falsos regularmente.
O The Banner informa que a ação acusa a diretora Catherine Smith de não reconhecer o cancelamento nem verificar se o alerta continuava ativo. Em vez disso, afirma o jornal, a ação alega que ela enviou uma captura de tela das imagens ao policial responsável pela segurança na escola, que a encaminhou à polícia.
Em um relato feito no ano passado, autoridades da escola disseram que a diretora havia avisado o policial responsável pela segurança sem saber que o escritório de segurança havia liberado o incidente, segundo o The Banner. O veículo também informou que a Omnilert disse que sua equipe de monitoramento havia verificado e encaminhado à equipe de segurança do sistema escolar, para avaliação, uma imagem que parecia mostrar uma arma de fogo.
Resposta da empresa e medidas solicitadas
Blake Mitchell, porta-voz da Omnilert, disse ao The Banner que a empresa estava analisando a ação e lamentava o medo sentido pelos estudantes e suas famílias. O veículo informou que autoridades da escola recusaram um pedido de entrevista e que autoridades da polícia do condado se recusaram a comentar.
O The Banner informou que uma investigação de 2025 do Office of the Inspector General for Education de Maryland não encontrou viés da Omnilert no alerta equivocado. Segundo o veículo, o relatório atribuiu a ameaça percebida ao movimento da mão do estudante, incluindo sua posição e ângulo.
A denúncia alega violações dos direitos constitucionais federais e estaduais dos adolescentes, além de negligência e negligência grave. Os estudantes pedem indenização em valor não especificado e solicitaram que o tribunal impeça o sistema escolar de usar a Omnilert até que seu treinamento e seus protocolos melhorem, informou o The Banner.
O Lawyers' Committee também pede mudanças nos procedimentos da polícia e das escolas, incluindo a verificação de relatos de plataformas de detecção de ameaças por IA e políticas destinadas a impedir que alertas falsos levem a respostas armadas. Willkie Farr & Gallagher e Engel Law Group também representam os estudantes.
Fontes
- Fonte original Lawyers' Committee for Civil Rights Under Law lawyerscommittee.org
Outras páginas lidas
- The Banner thebanner.com
Notícias relacionadas
- Fundadora da Muslim Girl processa xAI por deepfakes supostamente gerados pelo Grok
- Relatório da Califórnia propõe verificações independentes obrigatórias para IA de fronteira
- GAO diz que quatro plataformas de IA produziram planos de ataque viáveis em testes
- Microsoft defende controles de segurança mais rigorosos à medida que a IA de fronteira avança
- Nadella diz que muita infraestrutura crítica não pode receber patches