Google Research ha presentado un nuevo marco de aprendizaje continuo denominado 'sleep framework', diseñado para permitir a los modelos de lenguaje grandes (LLM) integrar información nueva sin perder sus conocimientos previos. Este sistema, desarrollado por Ali Behrouz y Vahab Mirrokni, se inspira en los mecanismos de consolidación de la memoria durante el sueño humano, utilizando un ciclo de vida periódico que alterna entre interacción activa y consolidación offline.
El problema central que aborda es el 'olvido catastrófico', donde el aprendizaje de nuevas tareas degrada el rendimiento en las ya adquiridas, y la limitación de la ventana de contexto en el aprendizaje in-context (ICL). El framework propone dos fases técnicas: la consolidación de memoria, que actúa como un sueño de ondas lentas (NREM) para abstruir y destilar la información frágil en parámetros estables, y la fase de 'soñando', que simula el sueño REM para explorar nuevas rutas neuronales mediante la activación aleatoria de expertos (MoE) y la selección de muestras basadas en recompensas.
Los resultados experimentales demuestran que este método permite retener conocimientos de hasta 10 millones de tokens y mejorar el razonamiento complejo. En benchmarks de traducción continua, entendimiento de contexto largo (BABILong) y conocimiento factual (SQuAD), el sleep framework superó a las líneas base tradicionales como el ajuste fino supervisado (SFT) y el aprendizaje por refuerzo (GRPO), logrando una precisión superior en tareas de razonamiento matemático y una adaptación casi nula en idiomas no vistos.