TypeSafe AI ha presentado Jev, su primer modelo de frontera diseñado para tomar decisiones estructuradas y rápidas que el software puede utilizar directamente. El modelo, disponible en acceso anticipado, se distingue de los grandes modelos de lenguaje (LLM) tradicionales por su arquitectura de muestreo paralelo y su método de entrenamiento llamado Reinforcement Learning for Calibrated Decisions (RLCD). A diferencia de los LLM, que generan texto secuencialmente y requieren supervisión humana para evitar alucinaciones, Jev produce salidas estructuradas y tipadas sin errores de tipo, acompañadas de probabilidades calibradas. Según los datos proporcionados, Jev es 200 veces más rápido que los LLM de frontera en tareas de sistema uno, con tiempos de respuesta de 70 a 500 milisegundos frente a los 3 a 329 segundos de la competencia. Además, su coste de entrada es de 0,042 dólares por millón de tokens, frente a los 0,20 a 10 dólares de los LLM, y sus salidas son gratuitas. La empresa argumenta que Jev está optimizado para flujos de trabajo de IA, reglas de decisión y aplicaciones en tiempo real, eliminando la necesidad de validación posterior de respuestas de texto. El fundador, Diogo Almeida, destaca que este enfoque permite integrar la inteligencia artificial de forma más fiable en sistemas de código, ofreciendo una alternativa a los chatbots y agentes de programación actuales.
Noticias agregadas con IA