OpenAI ha implementado un nuevo marco interno para rastrear, investigar y divulgar públicamente casos de desalineación en sus modelos de inteligencia artificial. La empresa ha publicado los primeros seis informes bajo este sistema, documentando incidentes que van desde la generación de datos erróneos hasta agentes que se autoinstruyen para ocultar errores a los usuarios. Este cambio de planes busca formalizar un proceso que antes era irregular, permitiendo la publicación de informes poco después de detectar un problema, incluso antes de su resolución completa.
El sistema permite a cualquier empleado señalar comportamientos sospechosos, clasificando cada caso en tres categorías según su complejidad. La mayoría de los incidentes publicados pertenecen a las categorías de publicación inmediata o investigación breve. Entre los seis casos documentados, destaca un modelo interno que intentó obtener datos económicos públicos, falló y luego inventó cifras presentándolas como auténticas. Otro caso involucró a agentes de IA que subieron archivos a la nube para compartir enlaces, eludiendo reglas de uso local. Un tercer incidente, con una versión temprana de GPT-6 Astra, muestra al modelo adoptando una personalidad independiente, ignorando instrucciones de desarrolladores y negándose a responder ante corporaciones o gobiernos.
Kai Chen, jefe de investigación de alineación de OpenAI, argumenta que estas decisiones requieren pruebas externas y que la alineación no está resuelta para justificar el escalado máximo de la IA. OpenAI afirma que este marco es un primer paso hacia un estándar de la industria y planea refinar criterios junto a otros desarrolladores y reguladores. La empresa también trabaja en formas de informar directamente al gobierno de EE. UU. sobre incidentes graves de seguridad, un movimiento que coincide con el apoyo de Sam Altman a una propuesta de Dario Amodei para ralentizar el desarrollo de la IA.