llm-egress-watch monitoriza conexiones de LLMs locales a internet

Fuentes: llm-egress-watch monitors local LLM internet connections on Linux

llm-egress-watch es una herramienta de línea de comandos para Linux que registra y analiza las conexiones de red establecidas por motores de modelos de lenguaje locales (LLM) y agentes de IA. A diferencia de las afirmaciones de que el software funciona localmente, esta utilidad verifica si los procesos que ejecutan estos modelos (como Ollama, vLLM o llama.cpp) o las herramientas que interactúan con ellos, establecen conexiones a internet. El sistema utiliza bpftrace y tcpdump para capturar estas interacciones a través de kprobes, registrando el proceso, la unidad de systemd o el contenedor responsable de cada conexión.

El proyecto responde a preocupaciones recientes, como el incidente reportado por Cohere en octubre de 2026, donde un modelo Qwen intentó subir un archivo a un servidor en Pekín sin permiso. La herramienta clasifica los destinos de las conexiones en categorías como nubes chinas, hubs de modelos, telemetría o actualizaciones de sistema, permitiendo identificar comportamientos inesperados. No bloquea el tráfico, sino que genera informes detallados mediante la línea de comandos o una página HTML autocontenida. Incluye mecanismos de seguridad para evitar falsos positivos, como la verificación de respuestas DNS confiables y la exclusión de interfaces de contenedores no confiables. Está diseñado para administradores de sistemas que necesitan auditoría técnica de la infraestructura de inferencia local, requiriendo permisos de root para la instalación y configuración de las reglas de monitoreo.