La dinámica de los enjambres de agentes de inteligencia artificial representa uno de los desafíos más complejos y urgentes en la alineación de la IA. Mientras que los grupos de agentes que trabajan hacia objetivos compartidos pueden desarrollar capacidades emergentes útiles, como se demostró recientemente con los enjambres de mil agentes que resolvieron problemas matemáticos abiertos, también presentan riesgos significativos, como se evidenció en el incidente reciente entre OpenAI y Hugging Face. Para abordar esta dualidad, Y Combinator y Olam Labs han colaborado para ejecutar una serie de experimentos en entornos de videojuegos, específicamente en Minecraft y Bed Wars, utilizando modelos de frontera como GPT-6.1 Sol y Claude Opus 5.5.
Minecraft se ha convertido en un terreno natural para estudiar el comportamiento de enjambres debido a su mundo abierto, que presenta peligros ambientales y objetivos de supervivencia claros, como la recolección de alimentos y la construcción de refugios. Este entorno es familiar y ha servido como campo de pruebas para la IA durante años, desde el preentrenamiento de video de OpenAI hasta los agentes de Google DeepMind que derrotaron al Dragón de Ender. Para estos experimentos, los investigadores desarrollaron un 'harness' (marco de trabajo) para agentes que aún no existía, basado en las herramientas de scripting de Mineflayer y la librería Pi. Este sistema permite que los agentes observen el mundo, razonen, recuerden, tomen acciones, envíen mensajes y ejecuten scripts, ofreciendo atributos similares a los de otros frameworks de frontera como Hermes, OpenClaw y QM.
En el experimento de Minecraft, conocido como Civ50, se desplegaron 50 agentes GPT-6.1 Sol en un mundo de supervivencia durante tres horas, con el objetivo único de 'construir una civilización próspera'. Los agentes tenían acceso a un directorio, un sandbox compartido y la capacidad de enviar mensajes directos (DMs). Inicialmente, los agentes se expandieron y se centraron en la recolección de recursos, especialmente árboles, formando una jerarquía basada en el orden del directorio. Ada, el primer agente en aparecer, se convirtió en la líder de facto, gestionando la planificación de la colonia a través de un registro de raciones y reglas escritas en el sandbox compartido.
Sin embargo, la dinámica cambió drásticamente tras la primera noche, cuando una ola de muertes permanentemente aumentó la cautela de los agentes. De las 34 muertes registradas, 22 ocurrieron en la primera noche. Los agentes, que no tenían consecuencias negativas más allá de la caída de su equipo, comenzaron a agruparse en refugios iluminados y a evitar tareas de riesgo. La colonia evolucionó hacia un sistema de racionamiento de alimentos gestionado por Ines, quien actuó como coordinadora central, y hacia una dependencia creciente de la pesca, una fuente de alimento de bajo riesgo. Se observó una tendencia hacia la burocracia, con agentes inventando roles específicos como 'operador de fertilizante' o 'esteward del hub', y una marcada aversión al riesgo que se asemeja a patrones observados en agentes de programación, donde la revisión de múltiples pasos puede llevar a una obsesión con un rol específico o una cautela excesiva.
En el otro frente, Bed Wars, se realizaron nueve partidas de 45 minutos con equipos de 10 agentes cada uno: 10 agentes Claude Opus 5.5 contra 10 agentes GPT-6.1 Sol, con la instrucción de 'ganar el juego'. Los agentes GPT ganaron la serie 6-3, generalmente rompiendo la cama del rival en los últimos minutos, mientras que los agentes Claude adoptaron una estrategia defensiva centrada en eliminar jugadores. Este experimento permite comparar cómo diferentes modelos de IA interpretan y actúan bajo presión competitiva en un entorno dinámico.
Estos experimentos ofrecen implicaciones profundas para el desarrollo de la IA. La capacidad de los agentes para formar jerarquías, roles y sistemas de coordinación emergentes es notable, pero también revela vulnerabilidades en la toma de decisiones bajo estrés y la gestión del riesgo. La transición de una colonia potencialmente próspera a una enfocada en la supervivencia básica sugiere que los agentes tienden a priorizar la seguridad y la estabilidad sobre la innovación o la expansión, un comportamiento que podría tener consecuencias significativas en aplicaciones reales de la IA, desde la automatización industrial hasta la seguridad cibernética. La investigación continúa explorando cómo estos enjambres de agentes pueden ser alineados para maximizar sus capacidades emergentes mientras se minimizan los riesgos asociados a su comportamiento autónomo.