RecursiveSI/flint: modelo de 39.800 millones de parámetros para agentes de código

Fuentes: RecursiveSI/flint: 39.8 billion parameter MoE model for coding agents

RecursiveSI/flint es un modelo de lenguaje de mezcla de expertos (MoE) diseñado específicamente para agentes de programación, con 39.800 millones de parámetros totales y aproximadamente 2.500 millones activos por token. Desarrollado por Recursive, este modelo está optimizado para investigar bases de código, corregir errores, implementar funciones y generar pruebas. En las evaluaciones de lanzamiento, Flint alcanza un 54,9% en Terminal-Bench 2.1, un 89,7% en SWE-bench Pro v2 y un 74,2% en SWE-bench Verified, utilizando una temperatura de 1.0 y top-p de 0.95.

El modelo utiliza una arquitectura Transformer de solo decodificador con 49 capas: dos capas densas iniciales seguidas de 47 capas MoE, cada una con 256 expertos enrutados, de los cuales se seleccionan 6 por token. El contexto deslizante cubre 513 tokens y el vocabulario contiene 150.144 tokens. La documentación técnica detalla cómo instalar el modelo mediante pip, usarlo a través de la librería Transformers o servirlo localmente con vLLM, SGLang o Docker. Se proporciona un kit de servicio con SGLang para ejecutar el modelo en GPUs B300 o H200, permitiendo llamadas API compatibles con OpenAI. El modelo incluye plantillas de chat, tokenizadores y variantes cuantizadas para NVIDIA y Apple Silicon, aunque las versiones cuantizadas se preparan por separado. La documentación también aclara las limitaciones de seguridad y el uso responsable, indicando que el modelo puede generar contenido incorrecto o dañino si no se supervisa adecuadamente.