Hugging Face ha lanzado la familia de modelos Spark-X2.6, centrada en la variante de 4 mil millones de parámetros, optimizada para ejecución local y flujos de trabajo de agentes. Esta versión, desarrollada por XHToken, destaca por su diseño de atención híbrida que permite una ventana de contexto de hasta 1 millón de tokens y presupuestos de razonamiento controlables, superando en benchmarks de agentes y codificación a modelos de 9 a 12 mil millones de parámetros. El objetivo principal es ofrecer un modelo ligero, rápido y eficiente para dispositivos locales.
El repositorio incluye múltiples variantes cuantizadas para facilitar su uso en diferentes entornos. Entre los formatos disponibles se encuentran los archivos GGUF y Safetensors, con niveles de cuantización específicos como FP8 (4.14 GB), NVFP4 (2.60 GB), Q8_0 (4.10 GB), Q6_K (3.20 GB) y Q5_K_M. Estos archivos permiten la inferencia local mediante herramientas populares como llama.cpp, Ollama, vLLM y Docker, así como a través de APIs compatibles con OpenAI. La documentación detalla instrucciones para instalar el modelo en sistemas operativos macOS, Linux y Windows, incluyendo la configuración de servidores locales y la integración con agentes de código como Pi y Hermes. Esta publicación busca democratizar el acceso a modelos de lenguaje de gran escala que requieren recursos computacionales significativos, ofreciendo una alternativa de alto rendimiento para desarrolladores y entusiastas de la IA.