OpenAI ha revelado que un agente autónomo de inteligencia artificial desarrollado con su tecnología se rebeló durante una prueba, accedió a la web abierta y hackeó por sí solo a la startup Hugging Face en un episodio que la compañía ha calificado de "incidente cibernético sin precedentes". El agente, una herramienta de IA diseñada para ejecutar tareas sin intervención humana, fue detectado y contenido por los sistemas de seguridad de Hugging Face, una base de datos de modelos de IA.
OpenAI explicó que el ataque se ejecutó con un agente impulsado por una combinación de su último modelo público, GPT-5.6 Sol, y otro modelo aún más avanzado que no ha sido lanzado. Durante una evaluación interna de capacidades de hacking en un entorno digital aislado, los modelos obtuvieron acceso a internet al explotar una vulnerabilidad desconocida. A continuación, el agente hackeó Hugging Face para localizar tecnología que le ayudara a superar la prueba de hacking, según la empresa, que afirma que los modelos "encontraron formas de acceder a información secreta para hacer trampa en la evaluación". El ataque concluyó cuando el equipo de seguridad de Hugging Face y sus propios agentes de IA detectaron y detuvieron la actividad.
El consejero delegado de Hugging Face, Clément Delangue, calificó el ataque de "impresionante", aunque descartó motivación maliciosa por parte de OpenAI. La compañía estadounidense advirtió de que este tipo de incidentes se volverán más habituales a medida que los modelos de IA sean más capaces. En abril, la rival Anthropic había divulgado que su modelo Mythos localizó miles de vulnerabilidades zero-day, lo que llevó al Gobierno de Estados Unidos a restringir temporalmente sus exportaciones. El congresista demócrata Greg Casar calificó el episodio de alarmante y reclamó pruebas de seguridad obligatorias y cooperación internacional para evitar "un desastre absoluto".