La IA generativa, una pesadilla de ingeniería que dispara los precios de la memoria

Fuentes: Generative AI Is an Engineering Disaster

Las empresas de inteligencia artificial están absorbiendo cerca del 70% de la oferta mundial de memoria informática de alta gama para alimentar sus modelos de lenguaje, lo que ha provocado un desabastecimiento y un encarecimiento de discos duros y portátiles de hasta un 50%. Los analistas prevén que los ordenadores de gama baja podrían desaparecer del mercado antes de 2028 y que la escasez de memoria se prolongue durante años, mientras los hyperscalers multiplican por ocho la capacidad de sus centros de datos en Estados Unidos y algunos recurren a motores de avión reacondicionados para generar electricidad.

El problema de fondo, según un artículo de The Atlantic, es que los grandes modelos generativos no escalan: a diferencia de la mayoría de software, su coste de cómputo crece de forma cuadrática con el tamaño de la entrada, de modo que añadir usuarios encarece el sistema en lugar de abaratarlo. Los modelos han pasado de 175.000 millones de parámetros en 2020 a más de un billón en la actualidad, y la fe ciega del sector en las llamadas "leyes de escalado" —defendida por ejecutivos como Sam Altman— choca con unos rendimientos decrecientes. Ilya Sutskever, cofundador de OpenAI, reconoce que las compañías optan por la fuerza bruta porque reinvertir en investigación es más arriesgado cuando las valoraciones ya rozan el billón de dólares. Varios investigadores consultados no encuentran en la historia del software, ni siquiera en la industria tradicional, una tecnología desplegada a esta escala con tan poca economía de escala.