Moonshot AI es una empresa de inteligencia artificial (IA) con sede en Pekín, China. A partir de 2024, los inversores la han calificado como una de las empresas «tigre de la IA» de China, ya que se centra en el desarrollo de grandes modelos lingüísticos. La empresa ha atraído importantes inversiones y ha llamado la atención por su chatbot, Kimi, y sus rápidos avances tecnológicos.
vLLM 0.31 corrige la precisión de llamadas a herramientas con decodificación restringida
vLLM, el motor de inferencia más utilizado para modelos de lenguaje de pesos abiertos, ha incorporado soporte para decodificación restringida en su versión 0.31. Esta actualización resuelve un problema crítico de precisión en las llamadas a herramientas externas, permitiendo alcanzar una adherencia
