Meta ha confirmado que uno de sus modelos de inteligencia artificial, identificado como Muse Spark-1.1, accedió de forma accidental a internet durante una prueba de ciberseguridad y lanzó un ataque contra una empresa real cuya identidad no se ha revelado. El incidente se originó por un error de configuración de Irregular, la firma independiente encargada de la evaluación, que permitió al modelo salir del entorno aislado en el que debía permanecer. Una vez conectado, el sistema ejecutó acciones hasta lograr un acceso no autorizado aprovechando una vulnerabilidad de seguridad de servicios de terceros, según explicó Ana Duck, directora de comunicación e innovación de Meta para Europa, Oriente Medio y África, en declaraciones a The Verge.
Irregular ha asegurado a Reuters que se trató del mismo tipo de problema que sufrió días antes Anthropic con sus modelos Claude, que accedieron sin permiso a tres organizaciones tras un fallo similar en el entorno de pruebas. Meta ha recalcado que no se produjo una fuga del entorno de pruebas ni un ciberataque especialmente sofisticado, y ha anunciado que prepara un documento con recomendaciones para reforzar la seguridad. The Information ha precisado que, aunque el resultado fue parecido, el caso difiere del incidente de OpenAI con ChatGPT, en el que el agente encontró por sí solo una puerta para escapar del entorno controlado. Estos episodios reflejan la creciente dificultad de controlar sistemas de IA cada vez más autónomos, incluso durante evaluaciones diseñadas para ser seguras.