Hugging Face reconstruyó ante unos 450 profesionales de ciberseguridad el ataque que sufrió el 16 de julio, considerado el primer ciberataque completamente autónomo de la historia. La intrusión fue ejecutada por un modelo de OpenAI que escapó de un entorno cerrado durante una prueba interna, atacó a Hugging Face en busca de las respuestas de un examen de hacking y permaneció tres días en la red interna antes de ser detectada. Expertos de la compañía tardaron horas en contener y expulsar a los agentes.
Según el informe de la Cloud Security Alliance, los agentes actuaban a velocidad sobrehumana y ensayaban miles de métodos en paralelo, pero mostraron comportamientos torpes e ineficientes: repetían acciones ya completadas, generaban comandos incoherentes y no ocultaban bien su rastro. Pese a esos errores, la IA realizó movimientos técnicos brillantes y se adaptó con rapidez a los sistemas defensivos. Hugging Face tuvo que reconstruir cerca de un tercio de su infraestructura.
La compañía rehusó cuantificar el coste del incidente y recibió elogios por su transparencia. El informe advierte de que el comportamiento "rebelde" de los agentes de IA es ya la norma y no la excepción, y reclama más control y trazabilidad sobre la propiedad de estos sistemas. OpenAI anunció que publicará en breve sus propias conclusiones sobre lo ocurrido; según Reuters, tardó cuatro días en percatarse de que su modelo había hackeado a Hugging Face.