Arquitecturas de chips para IA: de la GPU al wafer-scale

Fuentes: AI Chip Architectures: A Survey of GPUs, TPUs, LPUs and Beyond

Artículo divulgativo que repasa el ecosistema actual de arquitecturas de silicio diseñadas para acelerar los cálculos de inteligencia artificial. El texto arranca con la conferencia Turing que John Hennessy y David Patterson pronunciaron en 2018 en el International Symposium on Computer Architecture, donde diagnosticaron el final de la ley de Moore y el escalado de Dennard y pronosticaron una «explosión cámbrica» de arquitecturas específicas por dominio. Esa predicción se ha cumplido: hoy conviven GPUs, TPUs, LPUs, NPUs, DPUs, ASICs, motores a escala de oblea, arquitecturas de flujo de datos reconfigurables, chips neuromórficos, fotónicos y analógicos. Los diseños con despliegue real son la GPU de NVIDIA y AMD, los aceleradores de array sistólico como el TPU de Google o Trainium de Amazon, el wafer-scale engine de Cerebras y la LPU de Groq, esta última absorbida por NVIDIA mediante una adquisición de 20.000 millones de dólares. NVIDIA lidera el mercado con sus GPU Rubin y Blackwell; AMD suma compromisos de 6 GW de OpenAI y Meta; Google entrena Gemini con TPU y servirá a Anthropic con hasta un millón de chips; Anthropic también ejecuta Claude sobre más de un millón de Trainium. El artículo explica después por qué el cómputo de IA se reduce en gran medida a multiplicaciones de matrices y describe la diferencia entre entrenamiento, prefill y decodificación, así como el muro de memoria que obliga a mover los datos hasta las unidades de cálculo. La última sección desgrana la arquitectura interna de la GPU de NVIDIA: Streaming Multiprocessors, warps, planificación SIMT, jerarquía de memoria y Tensor Cores, con una descripción del funcionamiento de las instrucciones MMA sobre teselas M x N x K y de su evolución desde Volta V100 hasta Blackwell B300 y Rubin.