Gimlet Labs ha anunciado una ronda de financiación serie B de 300 millones de dólares liderada por Andreessen Horowitz, con la participación de Sapphire Ventures, Menlo Ventures, 645 Ventures, Arm, Eclipse, Emergence, Factory, Hudson River Trading, M12, OnePrime Capital, Prosperity7, QuantumLight, Samsung Ventures, Tiger Global Management, Triatomic, Wing Ventures y XTX Markets.
La compañía afirma que desde marzo ha incorporado miles de millones de dólares en ingresos contratados y un volumen de proyectos de centros de datos medido en gigavatios. También está ampliando rápidamente su capacidad gestionada hasta cientos de megavatios. Desde su ronda serie A, fechada hace algo más de cinco meses, la generación mensual de tokens se ha multiplicado por seis en 12 meses, mientras algunas proyecciones apuntan a un aumento adicional de 20 veces para 2030.
Gimlet presenta su nube de inferencia como una infraestructura diseñada desde cero para combinar distintos tipos de aceleradores, como GPU, arquitecturas de computación cerca de la memoria, procesadores de flujo de datos y CPU. Su software divide las cargas entre esos chips según los requisitos de servicio y el hardware disponible, con el objetivo de ofrecer simultáneamente baja latencia y alto rendimiento. La empresa asegura que este enfoque permite acelerar entre cinco y diez veces las cargas de trabajo manteniendo el mismo consumo eléctrico.
La compañía está ampliando su equipo de investigadores, ingenieros y operadores, y actualmente trabaja con laboratorios de frontera y otros grandes consumidores de inferencia. También está aumentando la capacidad para atender a un público más amplio.