Un análisis práctico de Nori desmonta uno de los patrones más extendidos en herramientas para agentes de programación: indexar y almacenar transcripciones completas de sesiones para que el modelo las consulte después. Tras meses de pruebas con y sin acceso de búsqueda a transcripciones previas en tareas de ingeniería de software (SWE), el equipo no ha encontrado ninguna ganancia de rendimiento —y sospecha que, en algunos casos, el acceso a ese historial incluso empeora los resultados.
El razonamiento es que, en equipos que ya cuidan la documentación junto al código (mensajes de commit detallados, descripciones de PR completas, documentación al lado del archivo), el agente acaba destilando por sí mismo la información útil de cada sesión y guardándola donde la necesita. Cuando después recupera la transcripción original, relectura tokens leyendo material que ya conoce y, sobre todo, absorbe los restos que el propio agente decidió no documentar la primera vez: un cuaderno de notas sin estructura que gasta contexto y degrada la calidad del modelo.
El texto añade un problema estructural: los agentes no pueden podar su propia memoria porque tratan todo el contenido del contexto como verdad de partida. Sin estado persistente, cualquier línea previa —incluidas las generadas por sesiones anteriores nunca revisadas— se interpreta como expresión de intención, y ese desvío se acumula sesión tras sesión. Los autores tampoco ven viable resolverlo solo con ingeniería de prompts, porque hay un conflicto directo con la necesidad de que el modelo no ejecute acciones no deseadas.
Nori matiza que las transcripciones siguen siendo útiles para observabilidad del equipo, no como memoria del agente, y propone un flujo alternativo: revisión semanal humana de las propuestas automáticas de cambio, con aceptación inferior al 20%.