Lev es un motor de decisiones que implementa la arquitectura de 'System One' para resolver tareas de clasificación en tiempo real, superando las limitaciones de los modelos de lenguaje generativos (LLM) en velocidad y precisión. A diferencia de los chatbots, que generan respuestas token por token y son costosos para tareas deterministas, Lev utiliza clasificadores basados en encoders (como ModernBERT) que procesan la entrada completa en un solo paso, ofreciendo respuestas estructuradas en menos de 100 milisegundos. Esta herramienta, desarrollada por el autor de Jolt, resuelve problemas críticos de los clasificadores tradicionales, como la falta de deducción en preguntas adversarias, la abstención excesiva ante datos insuficientes y el sesgo de posición en las opciones. El sistema escalona automáticamente: si el clasificador rápido genera una respuesta con baja confianza, la consulta se transfiere a un LLM local (como Qwen3.5-4B) para una verificación profunda. Este enfoque híbrido permite mantener la eficiencia de los clasificadores para la mayoría de las consultas mientras garantiza la precisión en casos complejos, todo dentro de un binario independiente que funciona completamente offline. Los benchmarks independientes muestran que, aunque los clasificadores puros tienen errores de calibración, la combinación con LLMs permite alcanzar una precisión del 95% en conjuntos de prueba adversarios, ofreciendo una alternativa viable y de bajo costo para aplicaciones que requieren decisiones rápidas y fiables.
Noticias agregadas con IA