General Compute, una startup de nube de inteligencia artificial centrada en inferencia, ha cerrado un préstamo de 400 millones de dólares con la firma de inversión tecnológica Upper90. El acuerdo podría ser el primero en utilizar chips específicos de inferencia como garantía, es decir, procesadores diseñados para ejecutar modelos de IA ya entrenados de forma rápida y eficiente, en lugar de los chips más caros empleados para entrenar esos modelos.
La financiación, destinada a desplegar chips SN50 de SambaNova, refleja un cambio de estrategia de los mercados hacia infraestructura capaz de ejecutar modelos de código abierto a menor coste que los últimos grandes modelos de los laboratorios frontera. Según General Compute, sus chips ofrecen una inferencia 16 veces más rápida que las nubes basadas en GPU, son energéticamente eficientes y no requieren costosos sistemas de refrigeración líquida, lo que permite desplegarlos en más centros de datos.
Fundada por el CEO Finn Puklowski, la compañía cerró una ronda semilla de 15 millones de dólares en mayo para construir una "neocloud" de inferencia en torno al silicio de SambaNova, respaldada por Intel. Upper90, dirigida por el ex trader cuantitativo de Goldman Sachs Billy Libby, ya financió en 2021 la compra de GPU por parte de Crusoe, en lo que considera la primera operación de préstamo respaldada por chips avanzados, un modelo que después rentabilizaron empresas como CoreWeave.
El movimiento llega mientras surgen competidores de Nvidia como Groq, Cerebras y AMD, y mientras modelos abiertos como el K3 de Kimi rivalizan con las propuestas de Anthropic y OpenAI en pruebas de programación.