ByteDance ha liberado el código fuente completo de Axion 1.0, un modelo de agentes de inteligencia artificial diseñado para operar con capacidades de razonamiento científico y uso de herramientas a nivel frontera. El proyecto, liderado por investigadores de ByteDance y universidades como la de Duke y Maryland, destaca por su metodología de entrenamiento simplificada: dos etapas de ajuste fino supervisado (SFT) seguidas de aprendizaje por refuerzo (RL), eliminando etapas intermedias complejas como el distilado on-policy o el DPO. Este enfoque permite alcanzar resultados competitivos utilizando únicamente datos de alta calidad y una receta de entrenamiento accesible.
El modelo Axion 1.0-122B, basado en Qwen3.5-122B, obtiene puntuaciones de 59.0 en HLE (con acceso restringido a sitios web) y 87.0 en FrontierScience Olympiad, superando a varios competidores actuales en benchmarks de razonamiento y ciencia. La arquitectura utiliza un contexto de 128K tokens y se entrena con 32 GPUs, requiriendo aproximadamente 240 horas de cómputo para la versión de 122B parámetros. El código abierto incluye scripts para la generación de datos, el filtrado de problemas, la preparación de benchmarks y la evaluación de agentes, facilitando la replicación y el estudio de la metodología. Los datos de entrenamiento están disponibles en Hugging Face, y los pesos del modelo se espera que estén disponibles próximamente. Esta publicación marca un hito en la democratización del entrenamiento de agentes avanzados, al demostrar que no es necesario recurrir a técnicas de entrenamiento costosas o opacas para lograr un rendimiento de clase mundial.
