Microsoft y Hugging Face han lanzado ThinkingBox-Training, una herramienta que permite a los agentes de inteligencia artificial post-entrenamiento mejorar su precisión en tareas críticas de bases de datos. El sistema utiliza los resultados ejecutables de ThinkBox-Bench como función de recompensa durante el ajuste fino, resolviendo un problema clave en la producción: la discrepancia entre lo que un modelo afirma haber completado y el estado real de los datos en la base de datos.
El estudio, publicado en un artículo de blog conjunto, detalla cómo el modelo Qwen3.8-27B mejoró su rendimiento tras 50 pasos de entrenamiento con GRPO. La tasa de éxito promedio en el benchmark ThinkingBox-Bench aumentó del 51,70% al 60,78%, mientras que el número de tareas resueltas correctamente en todos los 20 intentos se duplicó, pasando de 38 a 107. Este incremento en la 'dependibilidad' (medida por la tasa de éxito en todos los intentos) es crucial para sistemas que manejan registros de producción sensibles, ya que la métrica de precisión general (pass@1) no siempre refleja la consistencia operativa.
El enfoque se basa en la 'dificultad relativa a la política', seleccionando tareas que son difíciles para el modelo actual pero que se vuelven manejables tras el entrenamiento. Los resultados muestran que, aunque la cobertura de tareas resueltas en al menos un intento disminuyó ligeramente, la repetibilidad de los éxitos se disparó. Esta mejora permite a los agentes evitar errores catastróficos, como modificar reservas sin aprobación de gestión, garantizando que el estado de la base de datos final coincida con las expectativas del negocio.
