Investigadores del Pentágono han determinado que la sobreconfianza en la inteligencia artificial del sistema Maven, desarrollado por Palantir, contribuyó directamente al ataque a la Escuela Primaria Shajarah Tayyebeh en Minab, Irán, que mató a más de 150 personas, incluyendo al menos 123 niños. Según una investigación de Bloomberg citando funcionarios de una revisión interna no publicada, el sistema Maven, que integra datos para acelerar la toma de decisiones, fue el factor central en la identificación errónea del objetivo. Aunque el Pentágono ha hecho de Maven una herramienta clave en sus operaciones militares, los oficiales revelaron que el sistema no detectó inconsistencias en los datos obsoletos que clasificaban la escuela como una instalación del Cuerpo de Seguridad Revolucionaria de Irán (IRGC). La presión por lanzar un asalto inicial masivo contra más de 1.000 objetivos iraníes en las primeras 24 horas, combinada con la reducción del 90% del personal de mitigación de daños civiles, impidió la verificación humana adecuada. La Misión Independiente Internacional de Investigación de la ONU concluyó que EE. UU. cometió un crimen de guerra al lanzar un ataque indiscriminado, aunque Washington ha negado públicamente la responsabilidad, atribuyendo el ataque a Irán. Este incidente se suma a una creciente serie de errores en el uso de IA en sectores de alto riesgo, donde la dependencia de herramientas automatizadas sin verificación humana ha llevado a consecuencias catastróficas.
Noticias agregadas con IA