Gputaskman: gestor de GPU para Windows, Linux y WSL

Fuentes: Gputaskman: GPU task manager for Windows, Linux, and WSL

Gputaskman es una herramienta de línea de comandos diseñada para monitorizar el uso de la memoria VRAM y la actividad de la GPU a nivel de proceso, superando las limitaciones de la interfaz gráfica tradicional. Disponible para Windows (con soporte para NVIDIA y AMD), Linux nativo y WSL, así como macOS en Apple Silicon, esta aplicación ofrece una interfaz de terminal que detalla el consumo de memoria por proceso, la carga del motor de inferencia y el desglose de los modelos de lenguaje de gran escala (LLM) y la caché KV. A diferencia de los gestores de tareas estándar, que solo muestran el uso total de la GPU, gputaskman permite identificar qué aplicaciones específicas, como navegadores, editores de texto o motores de inferencia, están utilizando los recursos gráficos, lo cual es crucial para el diagnóstico de problemas de rendimiento en entornos de desarrollo local.

La herramienta se centra en cargas de trabajo locales, excluyendo servicios en la nube, y soporta tareas de inferencia, entrenamiento y fine-tuning de modelos, así como gráficos y video. Su diseño es experimental y portátil, sin necesidad de instalar CUDA Toolkit, Visual Studio ni claves de API. Para Windows, se distribuyen en paquetes ZIP portables para arquitecturas x64 y arm64, mientras que para Linux y WSL se incluyen compilaciones nativas. El software requiere un GPU compatible con los drivers actuales (WDDM para Windows, NVML para Linux) y no necesita permisos de administrador para su uso básico, aunque la inspección detallada de otros usuarios puede requerir privilegios de sudo. La documentación técnica detalla los métodos de medición, como el uso de NVML y ADL, y las limitaciones de visibilidad en contenedores Docker o Kubernetes, donde el emparejamiento de PIDs entre el host y el contenedor es necesario para atribuir correctamente el uso de la memoria.