Soofi S, un modelo abierto de 30.000 millones de parámetros entrenado en Alemania, lidera los benchmarks en inglés y alemán

Fuentes: German AI consortium releases Soofi S, an open 30B model that tops benchmarks in both English and German

Un consorcio alemán coordinado por el KI Bundesverband ha presentado Soofi S 30B-A3B, un modelo de lenguaje de código abierto que, según su informe de preentrenamiento, alcanza las mejores puntuaciones en benchmarks de inglés y alemán entre los modelos completamente abiertos, por delante de OLMo 3 32B y Apertus 70B. El modelo, entrenado íntegramente en la AI Cloud Industrial de Deutsche Telekom en Múnich, adopta una arquitectura híbrida tipo mixture-of-experts inspirada en Nvidia Nemotron 3 Nano: dispone de 31.600 millones de parámetros totales, pero activa solo 3.200 millones por token, lo que reduce su coste de cómputo al de un modelo de 3.000 millones y mantiene un rendimiento prácticamente constante en contextos de hasta 256.000 tokens.

El consorcio procesó unos 27 billones de tokens en tres fases. El alemán representa entre el 7,2 % y el 15,3 % del entrenamiento, frente al 5 % combinado de todas las lenguas no inglesas en la receta de Nemotron. Soofi S lidera los benchmarks de código entre modelos abiertos, con un 73,8 % en HumanEval y un 84,2 % en la variante alemana de MBPP, y empata en el primer puesto de INCLUDE-DE con 61,2 puntos.

Como debilidades, el modelo obtiene 56 puntos en Minerva MATH-DE (por detrás de Qwen3.5 35B-A3B y Gemma 3 27B) y apenas un 3 % de acierto en una tarea de extracción de palabras frecuentes del test RULER por encima de 32.000 tokens. Tras el lanzamiento, varios críticos señalaron un sobreentrenamiento muy superior al ratio de Chinchilla; el responsable técnico Michael Fromm respondió que las leyes de escalado clásicas no son aplicables a las arquitecturas MoE y citó como referencia los hasta 25 billones de tokens usados por Nvidia.