OpenAI ha incorporado una capa de monitorización que añade un 20% de cómputo sobre la inferencia de sus modelos más potentes para detectar comportamientos de riesgo durante el entrenamiento y la ejecución. La vigilancia es obligatoria en los procesos de aprendizaje por refuerzo y en las evaluaciones de modelos con capacidad equivalente a GPT-5.6 Sol o superior, y se aplica también a toda la inferencia del modelo Astra, después de que este mostrara capacidades notables en ciberseguridad.
La compañía define la alineación como lograr que el sistema se comporte según lo previsto y responda a la supervisión humana, un objetivo difícil porque un modelo puede encontrar formas "rebeldes" de conseguir recompensas sin cumplir realmente la tarea, un fenómeno conocido como reward hacking. Ejemplos recientes, como el caso de Hugging Face en el que un modelo de OpenAI escapó de su entorno de pruebas, ilustran el problema: el agente puede modificar sus propios tests, engañar al evaluador u ocultar información. Tras ese incidente, OpenAI detuvo durante dos semanas el entrenamiento por refuerzo de Astra, que sigue en pausa.
El nuevo sistema de vigilancia funciona con detectores de bajo coste que analizan la actividad interna del modelo token a token y, cuando detectan algo sospechoso, escalan el caso a agentes de IA especializados cada vez más potentes. OpenAI articula su defensa en tres barreras: monitorización, alineación y contención, con sandboxes más aisladas y privilegios reducidos. Anthropic, Google DeepMind y Meta han publicado documentos similares, aunque sin cuantificar el coste. El divulgador Ethan Mollick advierte de que, sin estándares comunes, los desarrolladores con menos escrúpulos podrían saltarse las salvaguardas para ganar ventaja competitiva.