Ir al contenido
AI.info

The Pulse

Estudiantes demandan tras una alerta de IA que confundió Doritos con un arma

Cuatro estudiantes actuales y antiguos del condado de Baltimore han presentado una demanda después de que una alerta de detección de armas mediante IA provocara una respuesta policial armada. Sus abogados afirman que los agentes los retuvieron y registraron pese a que la alerta había sido cancelada.

Estudiantes demandan tras una alerta de IA que confundió Doritos con un arma

Cuatro estudiantes actuales y antiguos del condado de Baltimore demandan a los creadores y usuarios de un sistema de detección de armas mediante IA después de que, supuestamente, confundiera una bolsa de Doritos con un arma de fuego. Los abogados de los demandantes afirman que la alerta hizo que la policía armada acudiera a su escuela, donde ordenaron a los adolescentes que se arrodillaran, los esposaron y los registraron.

Fuente lawyerscommittee.org

El Lawyers' Committee for Civil Rights Under Law presentó la demanda el 17 de noviembre ante el Tribunal de Circuito del Condado de Baltimore. La demanda nombra como demandados a Omnilert, el sistema escolar y su personal, el departamento de policía del condado y agentes a título individual.

Una alerta y una respuesta policial

Taki Allen, Yui-Osa Ogbeide, Devon Thompson Jr. y Keith Winfield III son los cuatro adolescentes negros representados en el caso. El incidente ocurrió en Kenwood High School en octubre de 2025 e involucró a Omnilert Gun Detect, un sistema utilizado en todo el sistema de escuelas públicas del condado de Baltimore.

Allen estaba comiendo Doritos Cool Ranch mientras hablaba con unos amigos fuera de la escuela, informó The Banner. Según su relato al medio, guardó la bolsa en el bolsillo antes de que llegara la policía, que le apuntó con armas de fuego y le ordenó tirarse al suelo. Los agentes lo esposaron y lo registraron, contó Allen al medio; dijo que encontraron la bolsa de patatas fritas.

Los abogados afirman que el sistema emitió una alerta que indicaba una probabilidad del 90 % de que hubiera un arma en el campus. Alegan que el personal de la escuela y la policía revisaron la imagen y determinaron que la alerta era un error, pero que, aun así, enviaron agentes armados a la escuela.

Gestión controvertida de la alerta

El comité afirma que las autoridades escolares y policiales cancelaron la alerta, pero carecían de procedimientos suficientes para impedir que una alerta cancelada provocara una respuesta armada. La demanda también alega que las autoridades escolares sabían que el sistema generaba alertas falsas con frecuencia.

The Banner informa de que la demanda acusa a la directora Catherine Smith de no reconocer la cancelación ni comprobar si la alerta seguía activa. En cambio, según el periódico, la demanda alega que envió una captura de pantalla de las imágenes al agente de recursos escolares, quien se la remitió a la policía.

En un relato ofrecido el año pasado, las autoridades escolares dijeron que la directora había avisado al agente de recursos escolares sin saber que la oficina de seguridad había dado por cerrado el incidente, según The Banner. El medio también informó de que Omnilert dijo que su equipo de supervisión había verificado una imagen que parecía mostrar un arma de fuego y la había remitido al equipo de seguridad del sistema escolar para que la evaluara.

Respuesta de la empresa y medidas solicitadas

Blake Mitchell, portavoz de Omnilert, dijo a The Banner que la empresa estaba revisando la demanda y lamentaba el miedo que habían sentido los estudiantes y sus familias. El medio indicó que las autoridades escolares rechazaron una solicitud de entrevista y que las autoridades policiales del condado declinaron hacer comentarios.

The Banner informó de que una investigación de 2025 de la Office of the Inspector General for Education de Maryland no encontró sesgo por parte de Omnilert en la alerta errónea. Según el medio, el informe atribuyó la amenaza percibida al movimiento de la mano del estudiante, incluida su posición y ángulo.

La demanda alega violaciones de los derechos constitucionales federales y estatales de los adolescentes, así como negligencia y negligencia grave. Los estudiantes solicitan una indemnización por daños y perjuicios sin especificar una cantidad y han pedido al tribunal que impida al sistema escolar utilizar Omnilert hasta que mejoren su formación y sus protocolos, informó The Banner.

El Lawyers' Committee también solicita cambios en los procedimientos policiales y escolares, entre ellos la verificación de los informes procedentes de plataformas de detección de amenazas mediante IA y políticas destinadas a impedir que las alertas falsas provoquen respuestas armadas. Willkie Farr & Gallagher y Engel Law Group también representan a los estudiantes.

Fuentes

  1. Fuente original Lawyers' Committee for Civil Rights Under Law lawyerscommittee.org

Otras páginas leídas

  1. The Banner thebanner.com

Noticias relacionadas

Explora

Más artículos