IA en el punto de mira tras ataque a escuela en Irán

Una investigación en curso sugiere que un error de inteligencia artificial (IA) pudo haber sido la causa de un ataque con misiles contra una escuela de niñas en Minab, Irán, el pasado sábado. Según fuentes citadas por This Week in Worcester, el ataque, que según el embajador iraní en la ONU, Ali Bahreini, causó la muerte de 150 estudiantes (aunque esta cifra no ha sido confirmada de forma independiente), podría haber sido resultado de una IA que incluyó la ubicación de la escuela en una base de datos de inteligencia antigua.

El Pentágono está investigando el incidente, y se ha confirmado que el ejército de EE.UU. podría ser responsable. No hay evidencia que sugiera que el objetivo fuera intencional. El Departamento de Defensa ha aumentado rápidamente el uso de un sistema basado en Claude de Anthropic para la toma de decisiones operativas, integrándolo en muchos procesos clave. Este incidente se produce en un contexto de creciente preocupación por el uso de la IA en operaciones militares, especialmente después de que la administración Trump declarara a Anthropic un riesgo para la cadena de suministro y ordenara la eliminación de su uso en seis meses. La situación recuerda a errores previos de IA que retrasaron la publicación de archivos relacionados con Jeffrey Epstein, donde la supervisión humana es ahora crucial para evitar errores.