Cuándo debe detenerse un agente: el arte de hacer converger un bucle

Fuentes: Knowing When to Stop: The Art of Making a Loop Converge

Para que un agente de IA deje de iterar necesita algo más que buenos prompts: necesita un bucle que converja. La ingeniería de bucles sustituye al humano como verificador de cada paso, pero el resultado solo es tan sólido como la señal que guía cada iteración. Si el verificador es débil —por ejemplo, unas pruebas que un agente puede memorizar—, el bucle puede converger formalmente sin acercarse a la intención del usuario.

El artículo, publicado en el boletín de Andreessen Horowitz, distingue los bucles que funcionan de los que se atascan. Los bucles de programación fueron los primeros en madurar porque el código es editable y ejecutable: un agente modifica una función, ejecuta el programa y recibe una señal clara sobre qué falló. En cambio, la generación abierta de imágenes carece de una representación estructurada que permita ediciones locales: regenerar no es reparar.

Para que un bucle converja, el autor identifica cuatro condiciones: un estado objetivo verificable (no basta con "mejorarlo"), un estado actual observable, una forma precisa de aplicar cambios locales y una regla de parada que considere el coste económico, no solo la corrección técnica. Los bucles afinados para una pila tecnológica concreta no se generalizan gratis: lo que funciona en un repositorio puede fallar en otro. La conclusión es operativa: diseñar un agente no consiste en pedirle que reintente, sino en dotarlo de un verificador que le indique la dirección.