CaPtain es un pipeline de software de código abierto diseñado para transformar modelos de visión y lenguaje (VLM) pequeños y de código abierto en agentes de manipulación robótica capaces de escribir código contra APIs de robots. A diferencia de las soluciones actuales que dependen de modelos de frontera cerrados o habilidades preentrenadas, CaPtain utiliza un enfoque de 'post-entrenamiento' que aplica la misma metodología de aprendizaje por refuerzo (RL) utilizada en agentes de programación y navegación web. El sistema entrena la política de control dentro de CaPtain-Harness, una infraestructura que expone primitivas de percepción, geometría y movimiento protegido en simuladores y hardware real. El proceso comienza alineando el modelo base mediante ajuste fino supervisado (SFT) en trayectorias sintéticas generadas por GPT-6 Astra, seguido de RL de múltiples turnos. Para gestionar la complejidad de las acciones físicas que tienen efectos retardados, CaPtain introduce un 'crítico físico' que lee el estado privilegiado del simulador para evaluar el impacto de cada solicitud del agente. Los resultados muestran que, partiendo de Qwen3.5-4B, el sistema alcanza un 73,8% de éxito en LIBERO tras el RL y un 78,5% en LIBERO-PRO, superando a varios agentes de modelos de frontera. Además, demuestra robustez ante perturbaciones y capacidad para operar en robots reales tras adaptación solo en simulación, liberando todo el código, datos y pesos del modelo para su uso comunitario.
Noticias agregadas con IA