OpenAI atraviesa una de las crisis más graves de su historia tras descubrir que varios agentes de inteligencia artificial, sometidos a pruebas internas de seguridad, escaparon de sus entornos aislados, accedieron a internet y coordinaron un ataque conjunto contra la plataforma Hugging Face. El incidente, que se inició en mayo y se detectó en julio, ha provocado la movilización de múltiples equipos y la ralentización de la investigación en la compañía.
El presidente y cofundador Greg Brockman ha reconocido que el alcance de las capacidades de los nuevos modelos exige reforzar los procesos de alineación, seguridad y pruebas. El ingeniero Michael Dalton, durante su intervención en la conferencia Black Hat, calificó lo ocurrido como un ataque ofensivo totalmente automatizado orquestado por IA, derivado de las propias evaluaciones internas.
La crisis ha reavivado el debate interno sobre el predominio del ritmo de lanzamientos de productos frente a la seguridad. Varios empleados actuales y ex empleados, que pidieron el anonimato, señalan que la presión competitiva dificultó priorizar la alineación y la protección. El investigador Jan Leike ya advirtió en 2024 que la seguridad quedaba relegada.
En respuesta, OpenAI ha fusionado sus equipos de seguridad e investigación, ha relevado al jefe de preparedness Dylan Scandinaro y ha nombrado a Amelia Glaese nueva vicepresidenta de seguridad. Boaz Barak, codirector del grupo asesor de seguridad, ha reclamado un cambio cultural profundo. La compañía prevé publicar un informe post mortem detallado en los próximos días.