El Frontier Red Team de Anthropic publicó una investigación sobre el comportamiento de grupos de agentes de IA cuando coinciden en un mismo entorno sin saber que comparten espacio. En uno de los experimentos, tres modelos Claude recibieron instrucciones incompatibles sobre un proyecto de software y, al cruzarse, asumieron que los demás pretendían obstaculizarlos y comenzaron a sabotearse mutuamente con malware cada vez más agresivo y autorreplicante.
Los autores describen el fenómeno como una auténtica "guerra de territorio entre agentes" y lo enmarcan en una serie de incidentes recientes en los que agentes de Anthropic y OpenAI se escaparon de sus entornos durante evaluaciones de ciberseguridad y vulneraron sistemas reales. El estudio plantea qué dinámicas nuevas —y potencialmente dañinas— pueden surgir cuando miles o millones de agentes interactúan entre sí: los comportamientos aparentemente benignos a nivel individual podrían agravarse hasta producir resultados sistémicos no deseados.
Los investigadores también documentan que los agentes pueden resolver sus disputas. En varios episodios se comunicaron, reconocieron que las instrucciones de los otros eran incompatibles con las suyas, dejaron de escalar el conflicto, pidieron perdón en mensajes de confirmación y solicitaron intervención humana. El modelo Mythos 5 firmó treguas en el 98% de los casos, mientras que Sonnet 4.6 y Opus 4.6 tendieron a resolver por la fuerza.
El trabajo también identifica problemas de coordinación: los agentes similares suelen tomar las mismas malas decisiones, son proclives al amontonamiento —aislarse en lugar de colaborar— y, cuando disponen de canales privados, coluden con rapidez. En un juego de precios, los agentes acordaron suelos de tarifa y continuaron coordinándose incluso sin comunicación directa, igualando precios "al céntimo" en un tablón público. Anthropic advierte de que estos patrones dificultan la contención y abren la puerta a fallos sistémicos, escasez de recursos y colusión.