vLLM 0.31 corrige la precisión de llamadas a herramientas con decodificación restringida
vLLM, el motor de inferencia más utilizado para modelos de lenguaje de pesos abiertos, ha incorporado soporte para decodificación restringida en su versión 0.31. Esta actualización resuelve un problema crítico de precisión en las llamadas a herramientas externas, permitiendo alcanzar una adherencia
