Liquid AI ha anunciado hoy el lanzamiento de LFM2.5-8B-A1B, una evolución de su modelo de 'Mixture-of-Experts' diseñada para ejecutarse de manera eficiente y privada en hardware de consumo. Esta nueva versión, disponible bajo licencia abierta, supera a su predecesor al expandir su ventana de contexto a 128.000 tokens y duplicar su vocabulario para una mejor tokenización en lenguajes no latinos. Gracias a un entrenamiento con aprendizaje por refuerzo y una preentrenamiento escalado a 38 billones de tokens, el modelo logra un razonamiento más profundo y una menor tasa de alucinaciones. LFM2.5-8B-A1B ofrece un rendimiento competitivo con modelos densos mucho más grandes, ejecutándose a altas tasas de tokens por segundo tanto en CPU como en GPU, y soporta herramientas de inferencia como llama.cpp y vLLM.
Liquid AI lanza LFM2.5 con ventana de contexto de 128k tokens
