BottleCap AI ha presentado ThinkingCap, la quinta versión de su serie de modelos optimizados para reducir el consumo de tokens de razonamiento. El nuevo modelo, basado en Gemma-4-26B-A4B de Google, logra una reducción media del 38,9% en los tokens de pensamiento y un máximo del 69,1% en ciertos benchmarks, manteniendo la precisión de las respuestas prácticamente inalterada. Esta es la primera aplicación de esta tecnología en un modelo de Google, destacando por su bajo coste de precisión, de solo 0,15 puntos porcentuales en el conjunto de pruebas.
El modelo opera con las mismas configuraciones de muestreo (temperatura 1.0, top_p 0.95) y el mismo stack de servicio (vLLM) que el original, permitiendo una sustitución directa en entornos de producción. En los doce benchmarks evaluados, la mejora más significativa se observa en tareas de contexto largo y multimodal, donde la reducción de tokens alcanza el 69,1%, seguida por el 59,3% en AA-LCR. La tasa de bucle (looping) de respuestas ineficaces cae del 3,64% al 0,76% del modelo original. Aunque la precisión varía ligeramente en algunas categorías, como AA-LCR, donde se observa una pequeña penalización, la mayoría de las métricas se mantienen dentro de la variabilidad natural del modelo. BottleCap AI ofrece además una versión PRO que reduce los tokens de pensamiento un 87,6% en promedio, dirigida a despliegues a gran escala que prioricen la eficiencia y el coste de inferencia.
