Cuándo conviene (y cuándo no) incorporar un LLM a una solución

Fuentes: Should you even use an LLM?

Antes de añadir un modelo de lenguaje a cualquier proyecto, conviene hacerse seis preguntas concretas que ayudan a decidir si realmente aporta valor o si basta con código tradicional. Un LLM intercambia determinismo por flexibilidad: es útil cuando la tarea exige interpretar lenguaje natural, sintetizar información abundante o razonar paso a paso sin reglas prefijadas, pero su salida es variable, más lenta y más cara que la de un programa determinista. Las preguntas clave son: ¿se puede especificar el flujo por completo de antemano?; ¿entradas idénticas deben producir salidas idénticas?; ¿la ambigüedad surge durante la ejecución?; ¿el resultado se puede verificar de forma barata y precisa?; ¿qué ocurre cuando la salida falla?; y ¿la versión con LLM supera de forma sustancial a una alternativa más simple? Si la mayoría se responde de forma desfavorable, lo razonable es quedarse con código convencional.

El artículo aplica ese marco a un caso real: un sistema de prospección comercial construido con un único agente LLM que buscaba, deduplicaba, validaba e insertaba clientes potenciales en un CRM. El agente fallaba entre un 10 % y un 20 % de las veces, costaba mucho depurar y obligaba a revisar manualmente más de 800 registros. La conclusión del autor es que los LLM son una herramienta más: la decisión de utilizarlos debe partir del problema a resolver, no de la moda de “ser una empresa AI-first”.