DoubtLess: Decodificación contrastiva sin entrenamiento para mejorar la eficiencia

Fuentes: DoubtLess: Training-Free Contrastive Decoding for Efficient Reasoning

DoubtLess es una técnica de decodificación sin entrenamiento que optimiza el rendimiento de modelos de razonamiento mediante la reducción de la longitud de la cadena de pensamiento (CoT). A diferencia de los métodos existentes que requieren reentrenamiento o la inyección de vectores de control, DoubtLess utiliza un modelo de razonamiento más pequeño para guiar al modelo principal hacia respuestas más breves. El mecanismo funciona comparando dos salidas del modelo pequeño: una que se instruye para ser concisa y otra para ser verbosa. La diferencia entre los vectores de logits de estas dos salidas, escalada por un factor de fuerza, se añade a los logits del modelo grande en cada paso del proceso de razonamiento.

En pruebas realizadas en siete benchmarks de matemáticas de competición, ciencias de posgrado y programación competitiva, DoubtLess logró acortar la CoT del modelo Qwen3-32B en un 31% sin alterar su precisión. Esta mejora superó a cinco líneas base de inferencia en tiempo de ejecución. Además, la técnica redujo los tokens de pensamiento por turno en un 20% en un agente de programación con autorreparación, manteniendo el rendimiento de la tarea. El método también se generalizó a dos otras familias de modelos con la misma precisión. Cuando se combina con técnicas de compresión basadas en entrenamiento, DoubtLess permite acortar aún más la CoT de modelos ya entrenados para la brevedad. El análisis de comportamiento indica que la reducción de tokens se debe principalmente a la disminución de las comprobaciones repetidas, con la mayor parte de los ahorros ocurriendo después de que aparezca la respuesta correcta por primera vez en la cadena de pensamiento. El código de la herramienta está disponible públicamente en GitHub.