Hudson River Trading (HRT) ha desarrollado un sistema de observabilidad que combina telemetría de servicios, trazado eBPF y contadores de bytes de hardware para identificar las fuentes de tráfico de red en su clúster de cómputo global. Esta solución responde a la necesidad de gestionar el ancho de banda en una infraestructura distribuida, donde los programas de investigación ejecutados en sitios remotos, como Noruega, acceden a datos almacenados en otras ubicaciones, generando cuellos de botella en la red de área amplia (WAN).
El problema surgió durante una simulación de entrenamiento de modelos donde el tráfico de datos saturó la capacidad de red, dificultando la atribución del consumo a usuarios específicos. Aunque el servicio de transferencia de datos DupeDog mostraba una caída de rendimiento, los registros no indicaban la causa raíz. Al analizar los contadores crudos de los switches de red, se detectó que el tráfico saturante provenía de una fuente desconocida, no de DupeDog.
Dado que los investigadores utilizan herramientas diversas y no todos los flujos de trabajo pasan por servicios centralizados, HRT implementó eBPF para capturar el tráfico a nivel de kernel. El sistema se centra en la función tcp_recvmsg, un punto de entrada común en el stack de red de Linux, para registrar el tráfico sin depender de los registros de aplicaciones. El equipo utiliza BPF Maps para contar bytes por minuto y atribuirlos a procesos específicos mediante el PID, evitando la sobrecarga de almacenar cada evento individual. Esta técnica permite a HRT identificar con precisión qué usuarios y programas están generando la mayor parte del tráfico, optimizando así la asignación de recursos de red en un entorno de alta complejidad.