claude-thermos: un proxy local para mantener caliente la caché de Claude Code

Fuentes: claude-thermos: a local proxy to keep your Claude Code prompt cache warm

claude-thermos es una herramienta de línea de comandos que envuelve a Claude Code en un proxy local inverso para evitar el coste oculto de la pérdida de caché de prompts. Cuando un agente principal queda bloqueado a la espera de un subagente durante más de cinco minutos, la caché de su historial de conversación expira silenciosamente por el TTL de Claude Code y, al reanudar, la plataforma reescribe todo el historial a tarifa de escritura (1,25x) en lugar de leerlo de caché (0,1x). Según mediciones del autor sobre unas 185 sesiones, esas reescrituras supusieron alrededor del 22% de la factura total, con colapsos individuales de entre 200.000 y 500.000 tokens.

La herramienta funciona reenviando el tráfico a la API real de Anthropic mediante la variable ANTHROPIC_BASE_URL apuntando a un puerto de loopback. Un observador agrupa las peticiones en sesiones y linajes (prefijo de caché identificado por modelo, herramientas y system prompt) y detecta cuándo el linaje principal está inactivo mientras un subagente trabaja. En ese caso, dispara peticiones de calentamiento con max_tokens=1 y sin streaming que refrescan la caché sin alterar el tráfico real. Los parámetros ajustables son el umbral de inactividad (270 s por defecto), el intervalo entre calentamientos (270 s), el número máximo de calentamientos por episodio (4) y la ventana de actividad de subagente (540 s).

En cada sesión se generan eventos.jsonl y summary.json, que registran los tokens leídos de caché, los calentamientos enviados, los reescrituras evitadas y el ahorro neto. Por ejemplo, con un precio de entrada de 3 dólares por millón de tokens, un net_savings de 1.200.000 equivale a unos 3,60 dólares ahorrados por sesión. La instalación se realiza con uvx claude-thermos y requiere Python 3.11 o superior.