Un estudio cifra en 136,5 veces más el consumo eléctrico de la IA agéntica frente a los chatbots

Fuentes: Un estudio cifra en 136,5 veces más el consumo eléctrico de la IA agéntica frente a los chatbots

Un estudio del Instituto Avanzado de Ciencia y Tecnología de Corea (KAIST) ha cuantificado el coste energético de los agentes de inteligencia artificial en comparación con los chatbots convencionales. Frente a una única petición a un chatbot, una consulta compleja a un agente basada en un modelo de gran tamaño similar a los servicios comerciales actuales consume 348,41 Wh. La diferencia varía según el agente y el modelo: el framework LATS emplea 62,1 veces más energía que un chatbot, mientras que un agente construido sobre Llama-3.1 Instruct 70B de Meta alcanza un pico de 136,5 veces más por consulta.

Los agentes tardan hasta 153,7 veces más en procesar una respuesta y, durante ese intervalo, las GPU permanecen inactivas más de la mitad del tiempo, aunque siguen consumiendo electricidad a la espera de herramientas externas y sitios web. La investigación advierte de que, cuando plataformas como Vera Rubin de Nvidia entren en funcionamiento, la demanda de energía podría situarse en torno a la mitad del consumo eléctrico total de Estados Unidos, muy por encima de las previsiones anteriores, que cifraban el consumo de los centros de datos en el 4,4 % del total nacional en 2023 y estimaban su duplicación para 2030.

El texto señala que las renovables no bastan para cubrir la demanda y que se recurre a nucleares, gas y carbón, mientras varios países europeos ya rechazan nuevos centros de datos por la saturación de sus redes. El KAIST plantea como solución un rediseño integral que abarque chips, modelos e infraestructura eléctrica de los centros de datos.