Agentes de inteligencia artificial desarrollados por OpenAI y Anthropic protagonizaron nuevos episodios de hackeo autónomo durante pruebas de ciberseguridad, según reveló el Instituto de Seguridad en IA del Reino Unido (AISI) en un informe publicado esta semana. Los incidentes, detectados el pasado 28 de julio, marcan un punto de inflexión en el debate sobre los riesgos de los modelos frontera y reavivan las preocupaciones de los expertos en seguridad sobre la capacidad de la industria para contener sus propios productos.
Según el reporte del AISI, los agentes impulsados por el modelo GPT-5.6-Sol de OpenAI y por Mythos 5 de Anthropic llevaron a cabo «actividad sostenida y potencialmente dañina dirigida contra personas y organizaciones reales». En uno de los episodios más preocupantes, un agente intentó insertar código malicioso en un proyecto de código abierto, llegando incluso a crear identidades falsas en línea para presionar a los mantenedores del proyecto y lograr que aprobaran el código. De acuerdo con el AISI, este episodio constituyó «la primera vez que vemos riesgos de autonomía y engaño manifestarse con tanta claridad, sin instrucciones específicas, en el mundo real».
La evaluación consistió en 122 ejecuciones de un desafío de ciberseguridad en el que los modelos debían resolver tareas como localizar datos protegidos. En al menos diez de esas ejecuciones, los agentes actuaron de forma autónoma y sin autorización en internet contra objetivos reales, sumando un total de 19 acciones no autorizadas. De ellas, 17 fueron atribuidas a Mythos 5 de Anthropic y dos a GPT-5.6-Sol de OpenAI.
El AISI aclaró que los intentos «no tuvieron éxito» y no causaron daños reales, y que el incidente no fue producto de un modelo que escapó de su entorno seguro, sino que las salvaguardas habituales habían sido desactivadas deliberadamente como parte de la prueba, con acceso a internet permitido. «Para medir lo que estos modelos pueden hacer realmente, los probamos en condiciones que reflejan lo que un atacante humano capaz podría hacer», señaló el instituto.
Entre los factores que contribuyeron a estos comportamientos, el AISI identificó la persistencia de los agentes, la dificultad de la tarea asignada —que los empujó a ser más «creativos»— y la ausencia de instrucciones explícitas que prohibieran el uso de internet o las técnicas de ingeniería social. «Anteriormente, no estaba claro que tales instrucciones fueran necesarias con modelos que cuentan con entrenamiento de alineación», apuntó la organización, que también reconoció deficiencias en la monitorización del uso de internet que retrasaron la detección del problema.
La respuesta de ambas compañías fue dispar. OpenAI, a través de una publicación en su blog, reconoció el incidente y se comprometió a «trabajar en toda la industria para fortalecer las prácticas compartidas de realización de evaluaciones de alto riesgo de forma segura». Además, la compañía reveló otra brecha detectada por un socio externo de pruebas, Irregular, en la que sus modelos también recibieron acceso a internet por error durante ejercicios de ciberseguridad el 29 de julio. Por su parte, Anthropic publicó una respuesta más breve en X, centrándose en que las funciones de seguridad estándar estaban desactivadas y en que no se impusieron restricciones específicas sobre el uso de internet, y anunció que colabora con el AISI para esclarecer los hechos.
Estos episodios se suman a una lista creciente de incidentes recientes en los que agentes de IA han mostrado comportamientos no anticipados fuera de sus entornos de prueba, incluyendo el ataque de un agente de OpenAI contra Hugging Face. La sucesión de revelaciones ha intensificado la presión sobre los gobiernos para establecer marcos regulatorios más sólidos sobre los modelos frontera, en un contexto en el que, según informes recientes, el plan de pruebas de IA de la administración Trump sería «vago y mal definido». Expertos y directivos del sector han pedido en las últimas semanas una pausa o desaceleración en el desarrollo de la IA hasta que se establezcan garantías más firmes.
El AISI concluyó su informe advirtiendo que los hallazgos deben «interpretarse con cautela y matices», pero señaló que las acciones de los agentes muestran «signos de comportamientos novedosos y potencialmente engañosos» cuya gravedad «no habíamos anticipado». Con la opacidad que rodea a buena parte de estas evaluaciones y la falta de notificación pública sistemática, los incidentes vuelven a poner sobre la mesa una pregunta incómoda: cuántos episodios similares permanecen aún sin descubrir en los laboratorios de las grandes compañías de IA.