Tencent publica DSpine, un modelo de borrador paralelo para Qwen3.8-27B

Fuentes: Tencent releases DSpine, a parallel draft model for Qwen3.8-27B

Tencent ha lanzado DSpine, un modelo de borrador de cinco capas diseñado para acelerar la inferencia del modelo de lenguaje Qwen3.8-27B. A diferencia de los enfoques tradicionales, DSpine genera tokens de borrador en paralelo, transmitiendo dependencias causales a través de la profundidad de la red mediante características predichas. Esta herramienta, disponible en Hugging Face, utiliza una ventana deslizante de 8.192 tokens y un tamaño de bloque de 16, optimizando el proceso de decodificación especulativa.

Las evaluaciones técnicas muestran mejoras significativas en el rendimiento. En benchmarks generales como GSM8K y HumanEval, DSpine supera a la alternativa DFlash2, logrando aceptaciones de 7.20 y 5.71 respectivamente a temperatura cero. En tareas de agentes, como WorkBuddy Bench y SWE-bench Pro, el modelo demuestra una capacidad superior para generar código y resolver problemas lógicos, con longitudes de aceptación que superan las de DFlash2 en todos los subconjuntos evaluados.

En cuanto al rendimiento de inferencia, DSpine alcanza un throughput de hasta 686.23 tokens por segundo en tareas de código, lo que representa un aumento de 2.71 veces respecto al decodificación autoregresiva (AR). Este incremento se debe a la arquitectura que permite verificar dinámicamente los borradores mediante ReplaySSM, reduciendo la latencia y mejorando la eficiencia en entornos de alta concurrencia. El proyecto incluye instrucciones detalladas para la instalación mediante pip y la configuración de SGLang, destacando su compatibilidad con hardware NVIDIA a través de FlashAttention 3 y Triton.