Los modelos de decisión de IA reemplazarán a los chatbots por su eficiencia

Fuentes: Los modelos de decisión de IA reemplazarán a los chatbots por su eficiencia

La industria de la inteligencia artificial está experimentando un cambio de paradigma hacia los modelos de decisión, herramientas que no generan texto sino que devuelven una opción junto a un índice de confianza numérico. Esta tecnología, originada por la startup TypeSafe con su modelo Jev, se ha convertido en la apuesta central de los grandes tecnológicos para optimizar procesos internos. Empresas como Amazon, Microsoft, Google y OpenAI han lanzado sus propias versiones de estos modelos, que operan en menos de 150 milisegundos y a un coste significativamente inferior al de los modelos de lenguaje grandes (LLM).

El principal argumento a favor de esta transición es la eficiencia económica y operativa. Los agentes de IA, que toman decisiones autónomas en flujos de trabajo complejos, pagan una factura creciente por el uso de LLMs para tareas simples de clasificación o selección. Al sustituir estas funciones por modelos de decisión, las empresas logran reducir costes por más de un factor 40 en casos como la clasificación de tickets de soporte. Además, la ausencia de tokens de salida reduce los gastos de inferencia, ofreciendo una fiabilidad superior para tareas cerradas.

Sin embargo, este avance conlleva una pérdida de transparencia. A diferencia de los chatbots, que permiten auditar el razonamiento mediante su verborrea, los modelos de decisión solo proporcionan un número (como 0,82 o 0,16) que determina el resultado final. Esta opacidad, bautizada por TypeSafe como 'sistema 1', limita la capacidad de los usuarios para entender cómo se llegó a una conclusión, lo que podría generar riesgos en sistemas críticos donde la trazabilidad del proceso es vital.