Speedy es un fork medido y optimizado de Strata que permite ejecutar el modelo Qwen3.8-Flash-Next (125B MoE) con un contexto nativo de 229K tokens y una capa de 1M tokens en una o dos tarjetas RTX 3080 de 10 GB. Desarrollado y probado en hardware NVIDIA, el proyecto ofrece configuraciones específicas para GPUs con capacidad de cómputo 8.0+ (Ampere o superior), aunque también soporta AMD mediante el backend HIP. La herramienta destaca por su capacidad de prellenado (prefill) y decodificación, logrando velocidades de hasta 4.270 tokens por segundo en dos GPUs con la cuantización UD-Q4_K_XL. Los benchmarks indican mejoras del 212% en prellenado y del 20% en decodificación respecto a la versión original de Strata. Speedy requiere aproximadamente 128 GB de RAM para cuantizaciones Q4 y 60-120 GB de disco por cuantización. El proyecto incluye guías de construcción para Linux y Windows, así como scripts para configurar un servidor compatible con OpenAI y Anthropic. Se destaca la estabilidad del modelo en sesiones de codificación largas, con un seguimiento de contexto sin errores hasta 1M tokens, manteniendo una tasa de recuperación de hechos del 93-96%.
