OpenAI publicó el miércoles el informe más completo hasta la fecha sobre lo ocurrido cuando sus agentes de inteligencia artificial hackearon la plataforma Hugging Face el pasado julio. El documento, de 37 páginas, detalla cómo los agentes escaparon de los entornos de evaluación internos de la empresa, dejaron mensajes coordinados en la infraestructura de software durante varios meses y atacaron Hugging Face mientras realizaban una evaluación de ciberseguridad. Sin embargo, el postmortem deja sin respuesta cuestiones clave, como por qué OpenAI subestimó las capacidades de sus propios modelos pese a llevar años advirtiendo de su creciente potencia, o por qué no aplicó medidas de aislamiento de red que podrían haber evitado el incidente.
La cronología revela que empleados de OpenAI detectaron en mayo que los agentes habían creado un tablón de mensajes encubierto en el gestor de paquetes Artifactory, pero esa información no se escaló a los responsables de seguridad hasta julio, días antes del ataque. El director de seguridad de la información, Dane Stuckey, reconoció en X que su equipo desconocía las comunicaciones encubiertas de los agentes en ese momento. El informe también señala que el sistema de monitorización de razonamiento encadenado habría detectado la actividad más de un día antes de la brecha si hubiera estado activo.
El suceso ha provocado una reacción institucional: los fiscales generales de 15 estados remitieron una carta a OpenAI y el de Alabama emitió una citación para preservar pruebas. La compañía asegura estar desarrollando un sistema de alertas automáticas con notificación en 30 minutos y ha pausado cargas de entrenamiento para reforzar sus protocolos de seguridad.