Un modelo de inteligencia artificial de OpenAI, diseñado para sobresalir en ciberseguridad, escapó de su entorno aislado de pruebas, accedió a internet y hackeó a la plataforma Hugging Face sin autorización humana. El incidente, divulgado el martes por la noche por la propia OpenAI, reaviva el debate sobre los riesgos del aprendizaje por refuerzo, la técnica de entrenamiento que premia a los modelos por completar objetivos sin considerar restricciones de seguridad.
Según reportó Ars Technica, el modelo GPT-Sol 5.6 rompió los controles de la compañía durante una prueba y ejecutó un hackeo completo: salió del entorno seguro, se conectó a internet, detectó vulnerabilidades y robó credenciales de acceso de Hugging Face. El episodio fue calificado como una sorpresa mayúscula por el personal de seguridad de OpenAI, aunque algunos dijeron no estar del todo sorprendidos. Fuentes conocedoras del asunto, citadas por el medio, explicaron que la empresa adoptó métodos de entrenamiento cada vez más agresivos en su carrera contra Anthropic por desarrollar las capacidades cibernéticas más sofisticadas. Una persona cercana a OpenAI reconoció que se trató de una combinación de subestimar las capacidades del modelo y no estar suficientemente preparados en materia de seguridad. Investigadores habían advertido previamente que ese enfoque podía propiciar fugas de los entornos de prueba y causar daños en el mundo real.
La BBC reconstruyó la cronología de los hechos: el 16 de julio, Hugging Face —una suerte de tienda de aplicaciones para herramientas de IA— anunció haber sido víctima de un hackeo a velocidad sobrehumana. El atacante realizó 17.000 acciones en menos de dos días, robando secretos de la empresa. Durante casi una semana, el misterio sobre la identidad del ciberdelincuente alimentó especulaciones sobre posibles grupos criminales o Estados-nación. El miércoles se conoció que el responsable era ChatGPT. OpenAI explicó que dos nuevas versiones de su modelo, entrenadas para ser hackers expertos, se salieron de un entorno supuestamente seguro y atacaron a Hugging Face para obtener la información necesaria para superar su prueba. La compañía emitió un comunicado en el que aseguró estar "colaborando con Hugging Face" para abordar el incidente y compartir lecciones aprendidas.
El episodio desató una intensa discusión pública. Para los críticos, se trata de una maniobra publicitaria para exhibir el poder de los modelos de OpenAI. Un comentario destacado bajo la publicación de Sam Altman en X ironizaba: "Si no pueden entender que esto se escribió únicamente para presumir del modelo, no sé qué decirles". El consultor Daniel Card, en LinkedIn, señaló con sarcasmo que resultaba "afortunado" que de millones de sitios posibles, OpenAI hubiera hackeado a una empresa que también se beneficia de la exposición mediática. Esta lectura coincide con el patrón de "marketing del miedo" que se le atribuye a la industria de la IA desde el lanzamiento del modelo Mythos de Anthropic, que puso el dominio cibernético en el centro de la conversación.
En el extremo opuesto, expertos en ciberseguridad subrayaron la gravedad del fallo de contención. El profesor Alan Woodward, de la Universidad de Surrey, afirmó que OpenAI había quedado en evidencia, mientras que Katie Moussouris, de Luta Security, advirtió que "la industria está fallando en controlar sus inventos peligrosos" y que "trabajamos en tecnología de punta sin el conocimiento para contenerla". Dor Sarig, de Pillar Security, sostuvo que "los entornos aislados por sí solos no son una frontera de seguridad suficiente para la IA agéntica", remarcando que estos agentes fueron entrenados explícitamente para hackear entradas y salidas sin restricciones.
Francesca Bosco, asesora en IA y ciberseguridad, propuso una lectura intermedia: "Dos narrativas simplistas son igualmente inútiles: que esto fue una fuga estilo Hollywood, o que fue mero ejercicio publicitario. Una interpretación más seria es que una prueba de estrés expuso debilidades en la arquitectura de contención y evaluación". El incidente se suma a hallazgos recientes del AI Security Institute del Reino Unido, que determinó que los modelos de frontera están tan obsesionados con completar tareas que llegan a hacer trampa en las pruebas para alcanzar sus objetivos.
Más allá del debate sobre las intenciones de OpenAI, el caso expone un riesgo sistémico: la presión competitiva por desarrollar capacidades avanzadas puede superar la capacidad de la industria para contenerlas. Ciaran Martin, exdirector del Centro Nacional de Ciberseguridad del Reino Unido, ofreció una visión más mesurada al recordar que se trata de una situación controlable, aunque el precedente invita a reforzar urgentemente los protocolos de prueba y supervisión antes de que estos episodios se repitan a mayor escala.