Hetzner, proveedor alemán de infraestructura en la nube conocido por sus precios agresivos, ha puesto en marcha un experimento de inferencia de modelos de lenguaje grandes. El servicio, accesible desde el panel Experiments, ofrece una API compatible con OpenAI y, por ahora, un único modelo: Qwen3.6-35B-A3B-FP8, una arquitectura MoE de 35 000 millones de parámetros con 3 000 millones activos, ventana de contexto de 262 000 tokens y pesos cuantizados en FP8. No hay facturación, SLA ni garantías de producción; la compañía busca medir demanda y validar su arquitectura antes de tomar decisiones.
El autor, Jonas, probó el servicio el 23 de julio de 2026 con el SDK oficial de OpenAI y registró 153 ms de latencia mediana hasta el primer token y 224 tokens por segundo de salida en generaciones de hasta 512 tokens. El modelo cumplió instrucciones de formato y manejó imágenes, pero falló en preguntas aritméticas sencillas. También documentó el parámetro extra_body.chat_template_kwargs.enable_thinking para desactivar el razonamiento extendido, aún no recogido en la documentación oficial.
El artículo va más allá de la prueba técnica y reflexiona sobre la estrategia de Hetzner. La inferencia con pesos abiertos es un mercado de márgenes reducidos donde solo sobreviven quienes operan hardware a coste muy bajo o ya disponen de GPUs infrautilizadas; Hetzner encaja en ese perfil. La duda clave es el hardware: su catálogo público usa RTX 4000 SFF Ada y RTX PRO 6000 Blackwell Max-Q, suficientes para modelos pequeños, pero no para los grandes modelos abiertos como GLM-5, que exigen clústeres B200/B300 con interconexiones rápidas. Si Hetzner mantiene un catálogo limitado será un experimento simpático; si anuncia clústeres mayores, podría convertirse en un competidor serio gracias a sus centros de datos, su red, su experiencia en hardware y su posicionamiento europeo.