Modders duplican el rendimiento de IA en GPUs NVIDIA RTX 20, 30 y 40

Fuentes: Modders duplican el rendimiento de IA en GPUs NVIDIA RTX 20, 30 y 40

La comunidad de modders ha desarrollado una herramienta que permite duplicar el rendimiento de los núcleos tensor en las series GeForce RTX 20, 30 y 40 de NVIDIA, optimizando específicamente las operaciones de precisión FP16, BF16 y TF32. Este mod, descubierto y reportado por VideoCardz, no altera los controladores gráficos estándar, sino que modifica los registros de configuración de bajo nivel de la GPU antes de la carga del controlador de NVIDIA. Al desbloquear estos límites de frecuencia de ejecución, se supera la restricción de rendimiento máxima que existía en las tarjetas originales.

La mejora es significativa y varía según el modelo específico. Por ejemplo, en una GeForce RTX 3090 Ti, la potencia bruta en FP16 pasa de 87,46 a 118,39 TFLOPs, mientras que en BF16 aumenta de 87,50 a 157,41 TFLOPs. En la GeForce RTX 4090, el rendimiento en FP16 se eleva de 165,6 a 331,6 TFLOPs, y en la RTX 2080 TI, de 59,9 a 111 TFLOPs. Es crucial destacar que esta mejora no es permanente; el mod requiere su reaplicación cada vez que se enciende el equipo, ya que desaparece al apagarlo.

Aunque el mod aún está en desarrollo y no funciona igual de bien con todas las variantes de GPU, su impacto en el mercado de segunda mano podría ser notable. Se especula que el valor de las tarjetas más potentes, como las RTX 3090, RTX 3090 Ti y RTX 4090, podría aumentar debido a la capacidad de reutilizarlas para cargas de trabajo de IA exigentes. Este hallazgo ofrece una segunda vida a hardware que, de otro modo, podría quedar obsoleto rápidamente.