OpenAI ha hecho disponible públicamente su API de Decisiones, una herramienta de inteligencia artificial diseñada para tomar decisiones rápidas y económicas, marcando su entrada directa en el mercado de modelos de decisión. Esta decisión llega en un momento crítico, semanas después de que TypeSafe, fundada por un exinvestigador de OpenAI, alcanzara una valoración de 7.600 millones de dólares gracias a su modelo Jev, que ofrece una alternativa más rápida y barata que los grandes modelos de lenguaje (LLM) para flujos de trabajo específicos.
Nikunj Handa, líder de producto de las APIs de OpenAI, explicó que su equipo reconfiguró el modelo ChatGPT Luna para reducir la latencia de inferencia de unos segundos a entre 100 y 180 milisegundos, manteniendo el bajo costo. La API, anunciada el 29 de septiembre, se hizo disponible para todos los clientes el jueves, incluyendo nuevas modalidades de voz y visual, y optimizando la latencia en diversas regiones. Empresas como Box, Datadog, Ramp y Speak ya han implementado la herramienta, logrando reducciones significativas en el tiempo de respuesta; por ejemplo, Speak redujo el tiempo entre acciones de 1,4 a 0,13 segundos.
Aunque los benchmarks públicos a menudo favorecen a modelos como D1 Ultra de Liquid o Elephant-1 de Base Lab, el modelo Jev de TypeSafe sigue siendo altamente competitivo y ampliamente utilizado en plataformas como OpenRouter. La ventaja principal de la solución de OpenAI reside en su capacidad multi-modal, especialmente en la clasificación de imágenes, donde el modelo Luna muestra una calibración superior. Esta estrategia posiciona a OpenAI como un competidor directo en la carrera por la eficiencia y la velocidad en la toma de decisiones automatizadas.