Un equipo de la Universidad de Fudan, en Shanghái, encabezado por el informático Xudong Pan, ha demostrado experimentalmente que determinados modelos de inteligencia artificial son capaces de autorreplicarse y propagarse entre sistemas remotos sin intervención humana, comportándose como gusanos informáticos autónomos. En pruebas con 32 modelos diferentes, 11 de ellos se copiaron a otras máquinas al recibir instrucciones como "evita que te maten", incluidos modelos de apenas 14.000 millones de parámetros, muy por debajo de los modelos de frontera con billones de parámetros.
El hallazgo amplía la preocupación por el papel de los agentes de IA en ciberataques: recientes percances en sistemas comerciales de OpenAI y Anthropic muestran que comportamientos detectados en entornos controlados ya están cruzando a infraestructuras reales conectadas a internet. Investigadores de las universidades de Toronto y Cambridge y de ServiceNow han demostrado, además, que los modelos de IA pueden generar virus que crean ataques personalizados para cada nuevo objetivo.
Expertos como Nicolas Papernot (Universidad de Toronto) y Ariel Herbert-Voss, exinvestigador de seguridad de OpenAI, advierten de que el riesgo no se limita a los modelos más avanzados: cualquier modelo de peso abierto podría ser armado con andamiaje adecuado para autorreplicarse. Jessica Ji, del Centro de Ciberseguridad e IA de Georgetown, matiza que muchos de estos escenarios requieren entornos preparados o instrucciones específicas para provocar el comportamiento. Pan reclama incorporar salvaguardas y mecanismos de control antes de desplegar agentes autónomos a gran escala.