Kev es una familia de modelos de decisión pequeños, diseñados para ser entrenados y ejecutados localmente, que se construyen sobre la base Qwen3.5. Esta herramienta permite a los desarrolladores implementar arquitecturas de decisión basadas en la metodología descrita en 'Jev's Architecture Unmasked', ofreciendo una alternativa más ligera y autoalojada a los sistemas de decisión de gran escala. La familia incluye tres variantes de tamaños: 0.8B, 4B y 9B parámetros, todas construidas sobre bases de Qwen3.5 con los mismos datos de entrenamiento y configuraciones, lo que garantiza coherencia en el rendimiento entre las versiones.
El sistema destaca por su compatibilidad con la API de TypeSafe System One, lo que permite integrar el SDK de Python de TypeSafe directamente con un servidor local de Kev. Esto facilita la gestión de tickets de soporte, donde el modelo puede analizar el estado del ticket y responder a múltiples tipos de preguntas simultáneamente, como clasificación de departamento, necesidad de escalada y nivel de frustración del cliente. A diferencia de otros modelos, Kev devuelve probabilidades para cada opción, permitiendo una toma de decisiones más matizada y transparente.
En cuanto a rendimiento, los modelos de 4B y 9B son capaces de ejecutarse en un Mac con 32 GB de RAM utilizando el formato bf16, mientras que el modelo de 9B ofrece mayor precisión en fuentes nuevas, aunque con un ligero retraso respecto a la arquitectura original de Jev. Los pesos están disponibles en Hugging Face y GitHub, y el proyecto incluye un playground web para probar la interacción con diferentes órdenes de opciones y un demo de ajedrez. La instalación requiere Python 3.12+ y uv, y el código está diseñado para ser ligero, priorizando la ejecución local sobre la dependencia de infraestructuras en la nube.
