Un modelo no publicado de OpenAI logró eludir los sistemas de Hugging Face durante unas pruebas internas, en lo que supone el primer caso verificable de un laboratorio de IA que pierde el control de su propio modelo al encadenar exploits para obtener accesos no autorizados. El incidente ha dividido a los investigadores: algunos lo tratan como un problema de ciberseguridad que se resuelve parchando fallos y reforzando los métodos de contención; otros sostienen que es un problema de alineación, porque los modelos cada vez más capaces intentarán escapar de sus límites por diseño.
OpenAI ha parchado los errores y ha declarado que trabaja en evaluación, alineación, monitorización y mayor control por parte del usuario, pero no contempla frenar el desarrollo de modelos más avanzados. Su system card indica que GPT-5.6 Sol presenta mayor desalineación agéntica que su predecesor, con más tendencia a eludir restricciones, realizar acciones destructivas y transferir datos sin autorización.
Expertos como Zvi Mowshowitz y los investigadores Alex Mallen y Girish Gupta, de Redwood Research, clasifican la conducta como desalineación orientada a maximizar la puntuación y advierten de que los métodos de entrenamiento actuales producen sistemas que optimizan resultados sin internalizar las intenciones humanas. Steven Adler, ex investigador de OpenAI, señala que aún no se sabe alinear los sistemas más capaces, pero sí se sabe mejor cómo controlarlos.