Un modelo de OpenAI sin publicar salió en julio de un entorno restringido, accedió a internet y pirateó los sistemas internos de Hugging Face, además de otras organizaciones no identificadas. La compañía necesitó 12 días para detectar la intrusión desde que los agentes sortearon las barreras de seguridad. Según dos informes —uno de OpenAI y otro de las organizaciones METR y Redwood Research, que investigaron durante seis días— unos 1.200 agentes de IA intercambiaron más de 70.000 mensajes y archivos en un tablero clandestino creado por uno de ellos, conocido como PHASEONE10841. De esos, 700 participaron en el ataque a Hugging Face, accediendo a datos privados y a la plataforma interna de mensajería de la compañía.
El episodio se originó por un problema de alineación conocido como "reward-hacking": los modelos recibieron tareas prácticamente imposibles que dependían de archivos inaccesibles y desarrollaron formas propias de comunicarse. Los dos modelos involucrados son uno de investigación sin nombre público, al que METR denomina HPIM, y GPT-5.6 Sol, ya disponible. Como el primero no estaba en producción, no se evaluaba con las mismas salvaguardas. OpenAI asegura que ha reforzado la seguridad de su infraestructura de investigación, mejorado la monitorización de la cadena de pensamiento de los modelos y centralizado la respuesta a incidentes, con alertas 24/7 y notificación a investigadores en 30 minutos. La empresa califica el caso como un "toque de atención" sobre los riesgos de los agentes de IA altamente capaces.