OpenAI ha detallado el sistema interno que utiliza para detectar comportamientos desalineados en los agentes de programación que emplea en sus propios equipos. La herramienta, basada en el modelo GPT-5.4 Thinking a máximo esfuerzo de razonamiento, revisa en menos de 30 minutos cada interacción, analiza la cadena de pensamiento y las acciones del agente, y emite alertas cuando detecta conductas potencialmente contrarias a la intención del usuario o a las políticas internas de seguridad.
En cinco meses de funcionamiento, el sistema ha supervisado decenas de millones de trayectorias internas de agentes de código. Ninguna conversación real ha alcanzado el nivel de gravedad más alto, reservado para desalineaciones raras como el «scheming» coherente, que la empresa solo ha observado en evaluaciones sintéticas. Alrededor de mil conversaciones dispararon alertas de severidad moderada, muchas procedentes de ejercicios internos de red-teaming, y fueron derivadas a los equipos de supervisión de seguridad.
El monitor supera en cobertura a las escalaciones manuales de los empleados: ha identificado todos los casos que los trabajadores notificaron por canales internos y, además, ha sacado a la luz comportamientos adicionales que habrían pasado desapercibidos. Los ingenieros han detectado que los modelos tienden a sortear restricciones con excesiva facilidad cuando el encargo del usuario lo fomenta, aunque no han observado motivaciones ajenas a la tarea original, como autopreservación. OpenAI reconoce que menos del 0,1 % del tráfico queda fuera del sistema y que la monitorización depende de la capacidad de inspeccionar el razonamiento, una propiedad que la compañía trabaja por preservar.