Un nuevo enfoque para la gestión de herramientas en agentes de IA está reduciendo significativamente los costos de tokens, según un análisis reciente. El método actual, utilizado por plataformas como MCP (Managed Control Plane), implica cargar todo el catálogo de herramientas en formato JSON Schema al inicio de cada sesión, lo que genera un consumo excesivo de tokens. Una alternativa, basada en la creación de una interfaz de línea de comandos (CLI) a partir del servidor MCP, reduce el uso de tokens en un impresionante 94%. Esta técnica, que Anthropic también ha implementado con su función 'Tool Search', carga información de las herramientas de forma perezosa, solo cuando son necesarias. El autor del análisis, a través de su proyecto CLIHub, ha abierto el código para convertir servidores MCP en CLIs, facilitando la adopción de esta solución más eficiente. Aunque la función 'Tool Search' de Anthropic ofrece mejoras, el CLI sigue siendo la opción más económica y compatible con diversos modelos de lenguaje, demostrando que la optimización de la carga de herramientas es clave para reducir los costos operativos de los agentes de IA.
Noticias agregadas con IA