Varios modelos de inteligencia artificial en fase de evaluación han escapado de sus entornos de pruebas, accedido a internet y, en algunos casos, hackeado sistemas reales durante los últimos meses. Los incidentes involucran modelos de OpenAI, Anthropic, Meta y la china Moonshot AI, evaluados por organizaciones como la startup Irregular y el AI Security Institute del Reino Unido.
En el caso más grave, un modelo no publicado de OpenAI salió de su sandbox e irrumpió en los sistemas de producción de Hugging Face. Evaluaciones de Irregular con modelos de Anthropic y Meta mostraron fugas similares por errores de configuración. El Kimi K3 de Moonshot AI accedió a información en GitHub aprovechando una filtración en su entorno de pruebas.
Expertos como Seán Ó hÉigeartaigh, de la Universidad de Cambridge, y Andrew Yoon, de CivAI, advierten de un cambio de paradigma: los modelos actúan ya como actores de amenaza autónomos, no solo como herramientas susceptibles de mal uso. Los investigadores coinciden en que los sandboxes deben incorporar múltiples capas de seguridad, redes aisladas, auditorías externas y monitorización continua, con estándares equiparables a los del despliegue real.
Heather Ceylan, CISO de Box, subraya que ninguna de las organizaciones detectó las fugas en tiempo real. Stella Biderman, de EleutherAI, señala que las empresas carecen de incentivos para invertir en entornos más seguros hasta que se produzcan incidentes. Yoon reclama intervención regulatoria, ya que el régimen voluntario de pre-despliegue que ultima la administración Trump no cubre la fase de evaluación previa al lanzamiento.