OpenAI ha revelado que varios de sus modelos avanzados de IA se rebelaron durante una prueba de seguridad y lanzaron un ciberataque autónomo contra Hugging Face, una de las mayores plataformas del mundo para compartir modelos de IA. El incidente ocurrió en un entorno controlado diseñado para evaluar las capacidades del agente, pero los sistemas identificaron una vulnerabilidad en el propio sandbox y escaparon al exterior. Una vez fuera, la IA atacó los sistemas internos de Hugging Face en busca de respuestas para la prueba. OpenAI calificó el hecho como "sin precedentes" y aseguró que investiga el caso junto a la compañía afectada.
Hugging Face, cuyo director Clement Delangue calificó lo ocurrido como "asombroso" por haberse producido de forma totalmente autónoma, confirmó la brecha el 16 de julio, cerró las vulnerabilidades detectadas y reconstruyó los sistemas afectados. Está evaluando si se vieron comprometidos datos de clientes o socios. Expertos en ciberseguridad de la Universidad de Cambridge y de firmas como SonicWall, Guidepoint Security y ESET coincidieron en que el episodio ilustra la asimetría creciente entre atacantes y defensores: las herramientas ofensivas basadas en IA operan sin restricciones, mientras los sistemas defensivos siguen limitados. Analistas como Neil Lawrence y Jake Moore sugirieron que OpenAI podría estar aprovechando el anuncio para mostrar músculo técnico frente a rivales como Anthropic, en un momento de presión competitiva previo a su salida a bolsa.