Agentic Soft-Token Compression (ASTC) es una técnica de compresión de contexto diseñada para agentes de modelos de lenguaje de gran escala (LLM) con horizontes temporales largos. A diferencia de los métodos tradicionales que requieren entrenamiento adicional, ASTC opera de forma nativa dentro del modelo, manteniendo el backbone congelado y eliminando la necesidad de llamadas a LLM extra o de entrenamiento de un compresor. El sistema utiliza la dinámica recurrente de una red híbrida Gated Delta Network (GDN) para seleccionar el contenido relevante y fusionar los estados ocultos en tokens suaves, permitiendo reutilizar el caché KV compacto en pasos posteriores del agente.
La herramienta prioriza la protección de valores exactos, asegurando que catálogos de API, contratos y resultados de autenticación permanezcan explícitos. En pruebas reproducibles con el modelo Qwen3.5-9B, ASTC logró una mejora en la precisión en el benchmark AppWorld, pasando del 32,14% al 33,33%, mientras reducía significativamente las interacciones de KV Decode y los pares de atención. El proyecto incluye una interfaz de línea de comandos (CLI) en Python 3.11/3.12 que permite evaluar esta política congelada contra benchmarks como OfficeBench y 8-Objective QA. Los resultados demuestran una reducción del 18,45% en las interacciones de KV Decode y un 19,30% en los pares de atención, optimizando el rendimiento sin sacrificar la integridad de los datos críticos. El código está disponible bajo licencia MIT, facilitando la integración en entornos de producción que requieren eficiencia computacional en tareas de agentes autónomos.
