WattGPU predice consumo y latencia de inferencia en GPUs no vistas
WattGPU es una herramienta de software diseñada para predecir el consumo de energía y la latencia de inferencia de modelos de lenguaje grandes (LLM) en GPUs de NVIDIA que no se han utilizado durante el entrenamiento. Este sistema aborda la falta de herramientas para optimizar despliegues en centros
