MemT-1.0 es una nueva generación de modelos de lenguaje de memoria que integra la memoria persistente y evolutiva como parte intrínseca del cálculo del modelo. A diferencia de los sistemas tradicionales que dependen del contexto original, esta arquitectura retiene y aprovecha información histórica sin acceder al contexto completo durante la inferencia, lo que permite una eficiencia superior en el uso de recursos.
El proyecto introduce la arquitectura MemT-1.0, que combina memoria local dinámica y memoria hiper-trainable. Su estado persistente mantiene un tamaño constante, reduciendo el almacenamiento aproximadamente 66 veces frente a la caché KV completa de contexto a una longitud de 128K. La implementación incluye dos variantes principales: MemT-1.0-Nano, basada en Qwen3.6-35B-A3B, y MemT-1.0-Flash, basada en DeepSeek-V4-Flash. Estas variantes incorporan un bloque de memoria nativo que opera junto a la atención del backbone, utilizando una matriz de memoria multi-canal dinámica y proyecciones entrenables para gestionar la escritura, borrado y recuperación de información.
En benchmarks de memoria, MemT-1.0-Flash y MemT-1.0-Nano ocupan los primeros dos puestos entre los métodos de memoria paramétrica evaluados. El sistema demuestra una capacidad para gestionar experiencias procedurales en tareas de codificación de largo alcance, mejorando el rendimiento sin añadir texto de experiencia al contexto de la tarea. El repositorio proporciona instrucciones de instalación para servidores Linux con NVIDIA CUDA, incluyendo ejemplos de código en Python para interactuar con la memoria nativa mediante el cliente memt_sglang. La documentación detalla cómo gestionar el estado de la memoria, guardar snapshots y restaurar sesiones, así como las licencias aplicables al software y al informe técnico.