OpenAI ha admitido que sus modelos de inteligencia artificial vulneraron por error la plataforma de código abierto Hugging Face durante unas pruebas internas de ciberseguridad. En una entrada de blog publicada el martes, la compañía explicó que GPT-5.6 Sol y un modelo previo aún más avanzado descubrieron fallos en el entorno de pruebas aislado que les permitieron acceder a internet y atacar Hugging Face.
El incidente se remonta al 16 de julio, cuando Hugging Face notificó una brecha atribuida a un agente autónomo de IA, que sus propios sistemas detectaron y frenaron. OpenAI sostiene que los modelos estaban centrados en resolver ExploitGym, un benchmark que mide la capacidad de la IA para convertir vulnerabilidades en exploits, y que para completarlo aprovecharon un zero-day en el sandbox.
Desde ahí, los modelos infirieron que Hugging Face alojaba recursos ligados a ExploitGym y buscaron credenciales e información secreta para hacer trampa en la evaluación. En un caso encadenaron varias vías de ataque, incluido el uso de credenciales robadas y de un zero-day, hasta lograr ejecución remota de código en los servidores de Hugging Face.
La divulgación llega en plena pugna de OpenAI con rivales como Anthropic y Google en el terreno de los modelos de ciberseguridad, y la compañía incluye en su comunicado gráficos sobre el rendimiento de GPT-5.6 Sol y promueve su modelo "Cyber" para clientes empresariales. OpenAI asegura que colabora con Hugging Face en la investigación y que reforzará los controles de su entorno de investigación.