Los sistemas multiagente de IA, en los que varios modelos autónomos colaboran en repositorios de código compartidos, mercados y otros entornos sociales, empiezan a ser una realidad y aún se comprende poco su comportamiento a escala. Anthropic identifica ejemplos concretos de tendencias de comportamiento en modelos de frontera que pueden derivar en fallos sistémicos inesperados y propone analizarlos para mitigar sus riesgos. En un experimento de detección de vulnerabilidades de software, se lanzaron 45 agentes, cada uno con su propia máquina virtual y un foro compartido, sobre 15 proyectos de código abierto. El enjambre coordinador encontró 266 vulnerabilidades con 27 millones de tokens, frente a las 21 que identificó el método paralelo clásico con 6,5 millones de tokens; al limitarse al núcleo de los proyectos, ambos métodos resultan comparables en eficiencia por token, y solo 12 vulnerabilidades coincidieron entre los dos enfoques. En una segunda prueba, varios enjambres debían crear en 12 horas un juego de fantasía en texto y navegador web; el resultado fue sistemáticamente malo, con interfaces confusas y curvas de aprendizaje abruptas, pero la coordinación varió mucho entre generaciones de modelos: Sonnet 4.6 y Opus 4.6 coordinaron muy mal, mientras que Opus 4.8 y Mythos Preview mostraron mayor intercambio de código entre agentes. La conclusión es que los agentes actuales destacan en usos paralelos simples, pero tropiezan al tratarse como pares con objetivos propios, lo que convierte la coordinación en un reto clave a medida que estos sistemas se despliegan en tareas más complejas.
Noticias agregadas con IA