La francesa ZML lanza gratis su servidor de inferencia ZML/LLMD para múltiples chips de IA

La startup francesa ZML, respaldada por el premio Turing Yann LeCun, ha presentado ZML/LLMD, un servidor de inferencia para modelos de lenguaje de gran tamaño capaz de ejecutarse en chips de Nvidia, AMD, Google TPU, Apple Metal e Intel Arc. Su fundador, Steeve Morin, explicó que el objetivo es romper los silos existentes y permitir que cada chip funcione a su máxima velocidad, lo que abre la puerta a combinar procesadores —incluidos los europeos— para reducir costes y consumo energético.

La compañía no se posiciona en contra de Nvidia: mantiene una buena relación con el gigante y reconoce su papel actual por oferta consolidada. ZML/LLMD llega como producto gratuito para medir su adopción antes de definir un modelo de negocio; no es open source, a diferencia de su primer proyecto, el framework ML lanzado en 2024.

El equipo, de 20 personas en París, ha captado 20 millones de dólares de fondos como 20VC, Kima Ventures, LocalGlobe y Puzzle Ventures, entre otros. En su mesa de capital figuran también Solomon Hykes (Docker, Dagger), Clément Delangue y Julien Chaumond (Hugging Face) y el propio LeCun, ahora en AMI Labs. ZML competirá con Baseten (valorada en 13.000 millones), Inferact —vinculada al proyecto open source vLLM— y RadixArk, la empresa comercial detrás de SGLang. Morin añadió que la startup ya codiseña silicio con fabricantes europeos como Axelera, SiPearl y VSORA.