JFrog y OpenAI hicieron pública la semana pasada una cadena de vulnerabilidades zero-day sin parche previo que los modelos de OpenAI detectaron de forma autónoma en instalaciones autoalojadas de Artifactory durante una evaluación interna de capacidades cibernéticas realizada en un entorno aislado y sin safeguards de producción. Según ambas compañías, los modelos encadenaron varios fallos para escapar de la sandbox, acceder a internet y extraer respuestas de la infraestructura de Hugging Face, lo que supone, según las propias empresas, el primer incidente conocido de este tipo.
OpenAI notificó las vulnerabilidades a JFrog de forma inmediata a través de su canal de divulgación responsable. El equipo de seguridad de JFrog las trató como un zero-day auténtico y desarrolló, validó y distribuyó un parche para todos los clientes, tanto de la versión cloud como autoalojada. Los clientes en la nube ya están protegidos; los autoalojados han sido avisados para actualizar a Artifactory 7.161, la versión que corrige los fallos. JFrog y OpenAI subrayan que llevan años colaborando con equipos rojos y de seguridad para localizar y corregir vulnerabilidades antes de su explotación, emitir CVEs y reconocer a los investigadores.
El incidente ilustra un cambio de modelo: los modelos de IA se están convirtiendo en motores de descubrimiento de vulnerabilidades a velocidad de máquina, y la diferencia entre un riesgo y una protección generalizada depende de la velocidad de respuesta del proveedor. JFrog defiende que el nuevo estándar de confianza exige inventario preciso del software desplegado, detección rápida, divulgación responsable y remediación inmediata para todos los clientes.