KORA Doctor analiza desperdicio de ejecución en agentes de IA

Fuentes: KORA Doctor identifies execution waste in AI agent runs

KORA Doctor es una herramienta de línea de comandos de código abierto diseñada para identificar ineficiencias en las ejecuciones de agentes de inteligencia artificial. Su objetivo principal es determinar qué partes de la ejecución pueden eliminarse para reducir costos, priorizando la optimización de la ejecución sobre la reducción del tamaño del modelo. La herramienta analiza archivos JSON/JSONL generados por AUDR (AI Usage and Cost Recording) para detectar patrones de desperdicio como llamadas repetidas a herramientas, amplificación de contexto y trabajo determinista que debería realizarse mediante código estándar.

El sistema opera sin necesidad de paneles de control ni servicios alojados, permitiendo su instalación directa mediante pipx. Al procesar trazas de ejecución, KORA Doctor genera un informe legible por máquina que clasifica las oportunidades de ahorro en categorías como llamadas repetidas, reutilización de caché y sobrecarga de orquestación. La herramienta utiliza heurísticas conservadoras para estimar el ahorro potencial, asignando porcentajes de confianza basados en la evidencia disponible en la trazada. Por ejemplo, las llamadas repetidas de modelos se asumen como 100% evitables, mientras que la reutilización de caché se estima en un 70%.

Para mejorar la precisión, KORA Doctor integra OpenTelemetry (OTel) como un sidecar opcional. Esta integración permite enriquecer los registros de AUDR con huellas digitales SHA-256 de argumentos y resultados de herramientas, así como estados de operaciones, lo que facilita la detección de trabajos duplicados sin exponer datos sensibles. La herramienta está diseñada para AUDR v1.0.0 y actúa como un complemento analítico, no como un reemplazo del validador de esquema oficial. Su enfoque es práctico para desarrolladores que buscan optimizar el rendimiento y los costos de sus agentes de IA mediante la inspección de trazas de ejecución reales.