Clasificar con alucinaciones: un patrón barato para categorizar consultas con LLM pequeños
Clasificar consultas o productos con grandes modelos de lenguaje se ha vuelto una tarea rutinaria, pero presenta un problema práctico: obligar al modelo a ceñirse a un vocabulario cerrado de marcas, colores o categorías con cientos de opciones encarece la llamada y choca con los límites de tamaño de
