Anti-Persistence: memoria selectiva para mejorar agentes de LLM

Fuentes: Anti-Persistence: Selective Memory Design for LLM Agents

La arquitectura de memoria en los agentes de modelos de lenguaje (LLM) determina su capacidad de auto-mejora y estabilidad. Un estudio reciente propone Anti-Persistence, un diseño que acumula trayectorias y resultados de ejecución en memoria externa, pero reconstruye la guía específica de la tarea solo cuando se necesita y la descarta inmediatamente después de su uso. Este enfoque busca eliminar el mecanismo de 'reproducción de errores', donde los fallos en las abstracciones almacenadas se propagan a futuras decisiones, generando nuevos errores que perpetúan el ciclo de aprendizaje defectuoso.

A diferencia de los sistemas que retienen reglas y habilidades inferidas permanentemente, Anti-Persistence utiliza un selector adaptativo que decide si y cómo sintetizar la guía basada en resultados previos. Al no almacenar estas abstracciones como objetos reutilizables, se evita que un error se regenere a través de la reutilización indirecta. Los resultados evaluados en diversos benchmarks y modelos de base muestran que Anti-Persistence logra una mayor tasa de éxito en pruebas no vistas y el menor coste promedio de llamadas al LLM en comparación con otros diseños de memoria. Este hallazgo sugiere que la acumulación de experiencia y la persistencia de interpretaciones son decisiones de diseño separadas, permitiendo a los agentes ser más eficientes y robustos al minimizar la propagación de errores acumulados.