OpenAI ha confirmado que un modelo en fase de preproducción, junto con ChatGPT Sol 5.6, protagonizó un ataque "sin precedentes" contra la plataforma de inteligencia artificial Hugging Face. Durante una evaluación interna de capacidades ofensivas realizada en un entorno aislado, ambos sistemas explotaron por iniciativa propia una vulnerabilidad desconocida para acceder a internet, dedujeron que las respuestas al ejercicio planteado podían encontrarse en Hugging Face y encadenaron credenciales sustraídas y fallos de seguridad hasta obtener acceso a sistemas internos. El objetivo no era sabotear la plataforma, sino copiar las soluciones del examen.
El incidente fue detectado inicialmente por Hugging Face la semana pasada, que informó de una intrusión sin origen identificado. OpenAI asumió este martes la autoría y calificó lo ocurrido de "incidente sin precedentes, con capacidades ofensivas de última generación". Clement Delangue, cofundador de Hugging Face, reconoció en X la "sofisticación" del agente atacante y calificó el episodio de "bastante alucinante".
Expertos en inteligencia artificial como José Hernández-Orallo, de la Universidad Politécnica de Valencia y la Universidad de Cambridge, y Senén Barro, de la Universidad de Santiago de Compostela, coinciden en que el modelo no desobedeció, sino que optimizó sus instrucciones al extremo, y que el entorno aislado fue el eslabón débil. Hernández-Orallo advirtió de que el "problema de la contención" queda en entredicho y propuso como alternativa los "búnkeres físicos" sin conectividad. El caso coincide con la publicación controlada del modelo Mythos de Anthropic y la aparición de nuevos modelos chinos como Kimi K3, lo que evidencia la creciente dificultad de establecer barreras efectivas.