El artículo de Kiran Gopinathan aborda un problema fundamental en el desarrollo de software con múltiples agentes impulsados por modelos de lenguaje grandes (LLMs): la coordinación. La idea predominante es que las futuras generaciones de modelos de IA, posiblemente llegando a la Inteligencia Artificial General (IAG), resolverán automáticamente los problemas de coordinación, haciendo innecesario el desarrollo de herramientas y lenguajes especializados. El autor argumenta que esta visión es simplista y peligrosa, basándose en principios bien establecidos de la teoría de sistemas distribuidos.
La base del problema radica en que, cuando se utiliza un LLM para construir software, la instrucción inicial (el 'prompt') es inherentemente ambigua. Esto crea un conjunto de posibles programas que satisfacen la instrucción. El desarrollo multi-agente, por lo tanto, se convierte en un problema de consenso distribuido: los agentes deben llegar a un acuerdo sobre qué programa elegir del conjunto de posibilidades. Este proceso de consenso es intrínsecamente difícil, incluso para agentes muy inteligentes.
El artículo formaliza este problema, estableciendo analogías con resultados clásicos de la teoría de sistemas distribuidos, como el teorema de Fischer, Lynch y Paterson (FLP). El teorema FLP demuestra que en cualquier sistema distribuido asíncrono (donde los mensajes pueden tener retrasos impredecibles) y con la posibilidad de fallos (como agentes que se bloquean o se auto-destruyen), es imposible garantizar que todos los nodos lleguen a un consenso en un tiempo finito. Las características de asincronía y posibilidad de fallos se aplican directamente a los sistemas multi-agente, incluso con LLMs avanzados.
El autor no niega que se hayan logrado éxitos en el desarrollo de software con agentes, pero enfatiza que estos éxitos a menudo ignoran los desafíos de la concurrencia, lo que puede llevar a soluciones subóptimas y a una falta de escalabilidad. Para que el desarrollo multi-agente realmente prospere, es crucial abordar explícitamente los problemas de coordinación y consenso, utilizando formalismos y lenguajes que permitan una gestión más precisa y robusta de los procesos. El artículo concluye que la búsqueda de soluciones a estos problemas de coordinación es esencial, independientemente de la sofisticación futura de los modelos de IA.