rGPU es una herramienta de software diseñada para ejecutar operaciones de GPU en máquinas NVIDIA remotas mientras la aplicación cliente permanece localmente. Su objetivo principal es permitir a los desarrolladores mantener el control sobre sus datos y código sin necesidad de instalar drivers CUDA en sus equipos locales, lo cual es especialmente útil para usuarios de macOS o entornos Linux sin soporte nativo de CUDA.
El proyecto ofrece dos vías de integración principales: el dispositivo PyTorch y el parche CUDA. El dispositivo PyTorch es la opción más sencilla, permitiendo a los programas de PyTorch optarse por usar un dispositivo 'rgpu' que opera a través de TCP. Por otro lado, el parche CUDA está diseñado para cubrir programas Linux existentes, incluyendo binarios de PyTorch estándar, mediante shims para libcuda, CUDA Runtime, cuBLAS y cuDNN. Esta segunda vía ofrece una mayor compatibilidad pero con una superficie de integración más amplia.
La instalación se realiza mediante pip, y el despliegue requiere configurar un servidor y un túnel SSH para la comunicación. El proyecto incluye documentación técnica detallada, pruebas para clientes en C++ y Python, y un sistema de generación de código. Actualmente, rGPU soporta PyTorch y CUDA, aunque también mantiene un camino experimental para JAX. La herramienta está licenciada bajo Apache License 2.0 y se encuentra disponible en GitHub para su uso inmediato en entornos de desarrollo distribuido.