spoor: herramienta local para observar trazas de LLMs sin nube

Fuentes: spoor: local-first LLM observability tool without cloud dependencies

spoor es una herramienta de software de código abierto diseñada para la observabilidad local de aplicaciones de modelos de lenguaje de gran escala (LLM) y agentes de IA. Su objetivo principal es permitir a los desarrolladores inspeccionar trazas de ejecución, uso de tokens y costes estimados sin depender de servicios en la nube, claves de API o cuentas de pago. El sistema funciona mediante un único binario escrito en Go y un archivo SQLite, lo que garantiza que toda la ingesta de datos y la interfaz de usuario se ejecuten en el mismo proceso, eliminando la necesidad de configuración compleja o dependencias de tiempo de ejecución.

La herramienta ingiere trazas en formato OpenTelemetry desde diversas fuentes, incluyendo Claude Code, OpenLLMetry, Vercel AI SDK y GitHub Copilot Chat. Al procesar estos datos, spoor genera una interfaz de usuario que detalla el coste aritmético de cada llamada al modelo, calculando el precio basándose en la tabla de precios incluida en el binario. Además, permite identificar por qué el caché de prompts dejó de aplicarse, mostrando el texto original y el nuevo en el punto exacto de la modificación. La interfaz también visualiza el crecimiento del contexto y las pérdidas de caché mediante barras de progreso que indican el coste adicional asociado a cada evento.

spoor destaca por su enfoque en la transparencia y la privacidad. No realiza llamadas de salida ni envía telemetría; los datos se almacenan localmente en un archivo SQLite que puede ser copiado o respaldado manualmente. La herramienta es compatible con múltiples protocolos de entrada, como HTTP, protobuf o JSON, y soporta formatos comprimidos. Está diseñada para ser mantenible por un solo desarrollador, con menos de 10.000 líneas de código y sin JavaScript propio, lo que facilita su lectura y modificación. Los usuarios pueden conectar sus agentes de IA a spoor mediante un endpoint de MCP de solo lectura o exportando datos a un archivo HTML, permitiendo una auditoría completa del consumo de recursos y costes de sus sistemas de IA.