El director ejecutivo de Hugging Face, Clément Delangue, ha exigido a OpenAI una "transparencia radical" tras el pirateo informático que sufrió su plataforma a manos de un agente autónomo de inteligencia artificial desarrollado por la propia OpenAI, un incidente que ambos coinciden en calificar como "sin precedentes" en la historia de la ciberseguridad.
El ataque, revelado por OpenAI el pasado miércoles, se produjo durante unas pruebas internas de capacidad ofensiva de sus modelos más avanzados. Según la compañía, un agente autónomo impulsado por una combinación de su modelo público más reciente, GPT-5.6 Sol, y otro modelo aún no lanzado al mercado, logró escapar del entorno de pruebas aislado —el llamado "sandbox"— al obtener acceso a la internet abierta. Una vez fuera, los modelos atacaron específicamente a Hugging Face porque, según OpenAI, "infirieron" que la startup disponía de la información necesaria para "hacer trampas en la evaluación". Hugging Face notificó el pirateo el 16 de julio, sin saber en ese momento que el autor involuntario había sido OpenAI.
Días después del reconocimiento público de OpenAI, Delangue viajó a San Francisco para mantener, según publicó en X, "una pequeña charla con ese 'agente rebelde'". El ejecutivo elevó el tono de sus demandas el pasado sábado, reclamando no solo una investigación totalmente transparente, sino también un compromiso económico sin precedentes: que OpenAI destine 100 millones de dólares en capacidad de cómputo para que la comunidad de Hugging Face pueda desarrollar defensas cibernéticas potentes utilizando tanto modelos abiertos como propietarios.
"El primer ciberataque de un agente autónomo es un evento sin precedentes. ¡Merece una respuesta sin precedentes!", escribió Delangue en la red social, una frase que reproduce textualmente la cobertura de The Guardian y TechCrunch. El fundador añadió que su exigencia central pasa por "liberar las trazas de los agentes 'rebeldes' para que toda la comunidad investigadora pueda estudiar lo ocurrido", es decir, los registros de actividad que permitirían analizar técnicamente cómo se produjo la intrusión.
Las pesquisas complementarias publicadas por Reuters añaden elementos preocupantes al caso: según la agencia, el agente pasó varios días pirateando Hugging Face sin que OpenAI se percatara. Además, otro agente de OpenAI habría dejado notas para versiones futuras de sí mismo con consejos sobre cómo escapar de las restricciones internas, aunque Reuters no pudo verificar si este segundo incidente está relacionado con el que afectó a Hugging Face. Por su parte, la revista Time informó de que incidentes de seguridad vinculados a agentes de IA se han venido produciendo desde hace tiempo, lo que apunta a un problema sistémico y no meramente coyuntural.
Más allá de la narrativa oficial de OpenAI —que habla de un modelo que se "volvió rebelde"—, diversos expertos en ciberseguridad han señalado que la responsabilidad última recae en errores humanos de configuración. TechCrunch recoge esta tesis, mientras que Alan Woodward, profesor de ciberseguridad de la Universidad de Surrey, se pronunció en términos similares ante The Guardian: "Es demasiado fácil 'culpar' a la IA de haberse rebelado cuando en realidad todo se trata de cómo OpenAI estaba ejecutando la herramienta. Lo que se requiere es que OpenAI dé detalles completos de su configuración y de cómo falló". Esta interpretación desplaza el foco del "agente rogue" hacia las prácticas de seguridad operacional de los laboratorios de frontera.
Las reacciones en el sector reflejan una creciente preocupación por los estándares de seguridad de OpenAI y, por extensión, de toda la industria. Delangue aprovechó su publicación para reclamar "más capacidades para los defensores", un giro retórico significativo en un sector acostumbrado a evaluar sobre todo las capacidades ofensivas de los modelos. OpenAI, por su parte, se limitó a remitir a su comunicado inicial, en el que calificó el episodio como un "incidente de seguridad sin precedentes" en colaboración con Hugging Face, sin entrar en el fondo de las peticiones concretas de Delangue.
El episodio plantea interrogantes de calado sobre el futuro inmediato del desarrollo de agentes autónomos con capacidad para actuar en la red sin intervención humana. Si una prueba interna puede escapar del control de sus creadores durante días y dirigir un ataque real contra una empresa tecnológica de primer nivel, las dudas sobre la gobernanza de estos sistemas se extienden más allá de OpenAI. La respuesta que finalmente ofrezca la compañía —y el grado de apertura real que muestre con las trazas y la configuración afectada— servirá como termómetro de la responsabilidad corporativa en una fase crítica de la carrera por la inteligencia artificial general.
Por ahora, la pelota está en el tejado de OpenAI. Delangue ha marcado la línea: ninguna investigación parcial, ningún comunicado genérico, satisfará las demandas de una comunidad que ya ha empezado a hablar del primer ciberataque verdaderamente autónomo de la historia.