12 noticias
Este artículo explica, desde una perspectiva práctica y accesible, cómo aprovechar varios GPU reciclados para ejecutar modelos de lenguaje de gran tamaño en un servidor doméstico. Tras una introducción al funcionamiento básico de los transformers y al concepto de token, el texto repasa por qué la ge
Linus Torvalds ha integrado en el kernel Linux el commit 818bebe, que corrige un error en el controlador drm/xe mediante el cual una porción de la memoria CCS (Compression Control Storage) de las GPUs Intel Battlemage se entregaba al asignador de VRAM como memoria utilizable. El origen estaba en la
El autor, desarrollador del driver gráfico AMD en Linux, retoma su serie sobre gestión de VRAM tras el desembarco en el kernel principal de los parches anunciados a principios de año. La entrada anterior dejó una afirmación pendiente: los juegos deberían mantenerse estables siempre que no consuman m
Por primera vez, las tarjetas gráficas con 16 GB de VRAM han superado a las de 8 GB como configuración más común entre los usuarios de Steam, según la encuesta de hardware de la plataforma correspondiente a julio. Las GPU con 16 GB alcanzan el 25,90 % de los jugadores, frente al 25,32 % de las de 8
La GeForce RTX 3060 ha regresado al mercado en su versión con 12 GB de memoria gráfica, reavivando el debate sobre la cantidad de VRAM y planteando la duda de si conviene elegirla frente a una GeForce RTX 5060, equipada con 8 GB. Este análisis compara ambas tarjetas gráficas para resolver la cuestió
Dimensionar un clúster de GPUs para servir modelos de lenguaje no requiere simulaciones costosas: con unos pocos datos del hardware y de la arquitectura del modelo se puede estimar el coste por usuario con operaciones básicas. Esta guía didáctica recorre, paso a paso, los tres ejes que rigen la infe
NVIDIA prepara la renovación de su gama alta con las GeForce RTX 50 SUPER, una serie de cuatro modelos (5080 SUPER, 5070 Ti SUPER, 5070 SUPER y 5060 SUPER) cuyo cambio principal será el aumento de la memoria gráfica GDDR7. Las especificaciones filtradas mantienen el mismo número de shaders y TGP que
nbd-vram es una herramienta de código abierto que convierte la VRAM de una GPU NVIDIA en espacio de swap para Linux, pensada para portátiles con memoria soldada y sin posibilidad de ampliación. El proyecto, publicado por Sean Lobjoit bajo licencia MIT, se dirige a usuarios que cuentan con una tarjet
Un usuario logró duplicar la memoria VRAM de su ordenador de juegos añadiendo una GPU de datacenter Tesla V100 SXM2 por un coste total de unas 200 libras. La necesidad surgió al querer ejecutar localmente modelos de lenguaje grandes (LLM) que requerían más de los 16 GB de su RTX 4080. La solución fu
KVBoost es una nueva librería de código abierto desarrollada por el repositorio Pythongiant que acelera significativamente la inferencia de grandes modelos de lenguaje (LLM) reduciendodrásticamente los requisitos de memoria VRAM. La herramienta解决los principales problemas de rendimiento: los modelos
Una startup llamada Taalas ha lanzado un chip ASIC que ejecuta el modelo de lenguaje Llama 3.1 8B a una velocidad de inferencia de 17.000 tokens por segundo, lo que equivale a escribir aproximadamente 30 páginas A4 por segundo. La empresa afirma que su chip es 10 veces más barato en costos operativo
Investigadores han desarrollado un nuevo simulador para optimizar el uso de la memoria durante el entrenamiento de modelos de aprendizaje automático. La herramienta, presentada el 8 de febrero de 2026, modela el proceso de entrenamiento como una tubería simplificada con tres etapas: carga de datos e
