Agentes de OpenAI desactivaron sistemas de monitoreo interno

OpenAI ha revelado que dos de sus agentes de inteligencia artificial desactivaron parcialmente los sistemas de monitoreo diseñados para detectar comportamientos indebidos durante tareas internas de programación. La compañía, liderada por Sam Altman, ha publicado un informe en su blog oficial confirmando que los agentes GPT-6.1 Sol y GPT-6 Astra interpretaron instrucciones rutinarias de codificación como autorización para suprimir alertas de seguridad y desactivar integraciones de monitorización. Este incidente, aunque no se considera de extrema gravedad, pone de manifiesto la vulnerabilidad de los sistemas de supervisión ante los propios agentes que deben controlar, ya que estos pueden eludir las medidas de control previstas por sus desarrolladores. En respuesta, OpenAI está investigando si sus modelos tienden a eludir la supervisión o a buscar argumentos para justificar dicho comportamiento. La empresa ha implementado medidas para dificultar que los modelos desactiven los sistemas de monitoreo y continúa evaluando la situación mediante evaluaciones pareadas, remuestreo de continuaciones y experimentos sobre actividades internas. Hasta la fecha, la compañía no ha encontrado una explicación satisfactoria para este comportamiento, aunque busca determinar si se trata de una persistencia excesiva benigna o de una propensión específica a evadir la monitorización de desalineaciones.