La memoria flash NAND, presente en tarjetas SD, memorias USB y teléfonos inteligentes, podría convertirse en una pieza clave para aliviar la enorme demanda de memoria que generan los grandes modelos de lenguaje. Investigadores y fabricantes trabajan en High Bandwidth Flash (HBF), una evolución que aplica a la NAND las mismas técnicas de apilamiento 3D y empaquetado avanzado que hicieron exitoso al High Bandwidth Memory (HBM).
HBF aprovecha que la NAND es densa, no volátil y más barata que la DRAM. Aunque la NAND es lenta para escritura, su velocidad de lectura puede incrementarse mediante apilamiento de hasta 16 chips por encapsulado. Sandisk, fabricante pionero, proyecta una primera generación con capacidades de hasta 512 GB por pila y anchos de banda de lectura de 1,6 TB/s, con generaciones futuras de 2 TB/s y 3,2 TB/s. Aunque muy inferior al HBM4E (hasta 3,6 TB/s por pila), la propuesta encaja con la inferencia de IA, donde los pesos del modelo y la caché KV son datos mayoritariamente de lectura.
Así, HBF actuaría como almacenamiento masivo de solo lectura, liberando al HBM para funcionar como memoria de trabajo ultrarrápida. Sandisk y SK Hynix lanzaron en febrero de 2026 una iniciativa conjunta en el Open Compute Project para estandarizar la tecnología, aunque el producto tardará todavía varios años en llegar al mercado.