Un análisis de Ornn Data demuestra que la demanda de modelos de pesos abiertos (open-weight) sostiene la viabilidad económica de las generaciones anteriores de GPUs de NVIDIA, desafiando la premisa de que cada nueva generación anula a las anteriores. El estudio compara el coste de inferencia de modelos cerrados y abiertos, revelando que los modelos abiertos más baratos, normalizados por inteligencia, completan tareas a una quinta parte del coste de los modelos cerrados equivalentes. Al autoalojar estos modelos en hardware alquilado, el coste por millón de tokens de salida baja a entre 0,12 y 0,35 dólares, invirtiendo la jerarquía de rendimiento: la GPU A100 genera salida más barata que la H100 en cargas de trabajo esparsas como gpt-oss-120b. Los datos de alquiler muestran que el precio de cinco años de la A100 mantiene el 80,2% del precio de un mes, frente al 43,7% de las familias Hopper y Blackwell. Esto indica que la ocupación y la demanda de mercado no se deben únicamente a la escasez de GPUs, sino a la utilidad económica de la infraestructura existente. Las cargas de trabajo intensivas en cómputo, como agentes de larga duración y aprendizaje por refuerzo, son agnósticas al hardware y toleran la latencia, lo que incentiva la demanda elástica a canalizar recursos hacia el hardware más eficiente en coste. Por tanto, las generaciones actuales de NVIDIA conservan una vida útil de ganancia de varios años, siempre que sirvan cargas de trabajo competitivas y los operadores mantengan la libertad de desplegarlas en hardware antiguo.
Noticias agregadas con IA