protocol_standard · 7 menciones
El proyecto Lowaltitudeflight/local-llm-tuning-guide ofrece una biblioteca de decisiones para desplegar modelos de lenguaje de gran escala (LLM) en máquinas multi-GPU sin conexión NVLink. La herramienta aborda la realidad de la mayoría de las inferencias autoalojadas, que utilizan GPUs como RTX 4090
Big AI ha publicado una serie de términos y condiciones para gestionar la interacción con los reguladores, un movimiento que la industria denomina 'Pace the frontier'. Esta estrategia busca establecer límites claros a la supervisión gubernamental mientras la tecnología avanza, evitando lo que la com
El consejero delegado de Nvidia, Jensen Huang, aseguró este jueves en la conferencia Communacopia + Technology de Goldman Sachs que los ingresos de la compañía podrían crecer un 70% interanual durante su próximo ejercicio fiscal, hasta situarse en torno a 680.000 millones de dólares frente a los apr
NVIDIA ha publicado CUDA 13.4, una actualización centrada en preparar el ecosistema de desarrolladores para dos hitos de su hoja de ruta: los primeros equipos RTX Spark con Windows, previstos para octubre, y la próxima generación Vera Rubin para centros de datos. La novedad más visible es el soporte
Un artículo de opinión fechado el 17 de julio de 2026 sostiene que Apple es, sin que casi nadie lo perciba, el verdadero dominador de la inteligencia artificial, y que NVIDIA camina hacia la irrelevancia. La tesis central es que la carrera de entrenamiento de modelos es la métrica equivocada: lo dec
Dos RTX 3090, un puente NVLink caro y una pregunta: ¿merece realmente la pena para cargas de trabajo de IA? Esta entrada es un benchmark a fondo que intenta responderla. El autor ejecuta cuatro tipos de pruebas: inferencia con partición por capas y paralelismo de tensores (llama-bench con Llama 3.3
Los modelos de lenguaje de gran tamaño (LLM) requieren coordinar muchas GPUs para funcionar. Una de las técnicas clave es el paralelismo de expertos (EP), esencial en los modelos MoE a gran escala. A diferencia de otras formas de paralelismo, cuyas comunicaciones siguen patrones fijos, en EP el rout
