Una demanda dice que la IA confundió una bolsa de Doritos con un arma
🎧 Escucha esta noticia
Cuatro estudiantes negros de secundaria demandaron a las Escuelas Públicas del Condado de Baltimore y a la policía después de que el sistema de detección de armas Omnilert señalara una bolsa de Cool Ranch Doritos como posible arma en octubre de 2025. Según la demanda, funcionarios escolares identificaron rápidamente el error y cancelaron la alerta, pero la policía fue llamada de todos modos por fallas tecnológicas y humanas.
La demanda alega que llegaron al menos seis patrullas, algunos agentes sacaron sus armas y los adolescentes fueron separados, esposados y registrados. Más del 99% de las alertas de armas del sistema escolar habrían sido falsos positivos, según la demanda. Los estudiantes solicitan que se prohíba a la escuela usar Omnilert hasta establecer protocolos para evitar respuestas policiales a alertas falsas.
Por qué importa · interpretación editorial
La demanda podría presionar a escuelas y proveedores a establecer protocolos que impidan respuestas policiales automáticas cuando los sistemas de detección generan alertas equivocadas. La alegación de que más del 99% de las alertas fueron falsos positivos también plantea dudas sobre cómo se evalúan la eficacia y los riesgos de estas herramientas antes de implementarlas.
Fuentes
RegulaciónSeguridadSociedad