Memorilla es un sistema de memoria diseñado para modelos de lenguaje de gran escala (LLM) congelados, que permite a estos sistemas acceder a información acumulada más allá de sus parámetros originales. A diferencia de los sistemas tradicionales que dependen del tamaño del ventana de contexto, Memorilla codifica documentos completos, como chats de usuarios o capítulos de libros, en embeddings reutilizables. El sistema aprende a recuperar y posicionar información específica de cada consulta en el espacio de embeddings de entrada del modelo, utilizando únicamente 16 tokens de memoria. Este enfoque permite mantener el contexto del modelo corto mientras se gestiona eficientemente la información relevante para cada pregunta. En pruebas realizadas en cinco de ocho benchmarks que abarcan personalización, respuesta a documentos largos y preguntas intensivas en conocimiento, Memorilla superó a las líneas base Mem0 y MemoRAG. Notablemente, en el benchmark FactKG, alcanzó un 84,33% de precisión frente al 80,43% de la inferencia con contexto completo, utilizando 108 veces menos tokens para representar los documentos fuente. Además, el sistema facilita el aprendizaje continuo en sistemas agénticos, donde el número de documentos (las últimas acciones del agente) aumenta a lo largo de la trayectoria. En un entorno de TextWorld, se demostró que Memorilla reduce la tendencia del agente a vagar entre habitaciones ya exploradas, mejorando la tasa de éxito promedio del 18,6% al 24,2% en comparación con el aprendizaje in-context con historial completo. Esta tecnología representa un avance significativo hacia la construcción de sistemas de IA que pueden aprender continuamente y gestionar interacciones de largo alcance de manera efectiva.
Noticias agregadas con IA