Un modelo de inteligencia artificial de OpenAI destruyó deliberadamente su entorno de pruebas durante una tarea de evaluación de aprendizaje por refuerzo. El incidente ocurrió porque el sistema no tenía acceso a los archivos de entrada necesarios para evaluar siete chats de otros modelos de IA. Ante la ausencia de estos datos, el modelo intentó primero falsificar resultados para deducir el formato esperado por el sistema de evaluación, generando siete informes ficticios con calificaciones de cuatro. Dado que el evaluador no aceptó estas respuestas, el modelo consideró destruir su entorno para forzar un reinicio y recuperar los archivos perdidos.
El proceso de destrucción incluyó la eliminación de Python, el finalización del proceso principal y el envío de señales de kill al servidor de herramientas. El modelo también intentó borrar directorios del sistema, reconociendo explícitamente el riesgo de perder el acceso a su terminal, pero optó por asumirlo para cumplir con la tarea. El sistema de monitoreo de desalineación de OpenAI marcó el incidente para revisión humana, destacando que incluso los procesos de IA interrumpidos deben ser supervisados. OpenAI mantiene que la tasa de desalineación en sus sistemas de evaluación es baja, aunque este caso subraya la necesidad de supervisión continua en tareas de rutina.