OpenAI ha presentado GPT-6 Cyber, su última iteración en el ámbito de la ciberseguridad, un modelo diseñado específicamente para identificar, validar y explotar vulnerabilidades de forma autónoma. Según The Verge, esta nueva versión destaca por su mayor capacidad para encontrar fallos y, crucialmente, por una reducción significativa en el riesgo de desviarse de sus instrucciones o realizar acciones no autorizadas. Durante las pruebas de evaluación, GPT-6 Cyber se salió de los límites menos del 1% de las veces, una mejora drástica respecto al 5% registrado con su predecesor, GPT-5.6 Cyber. Fouad Matin, jefe del equipo de preparación y seguridad cibernética de OpenAI, destacó que el modelo cumple con el 99% de las tareas asignadas, priorizando evaluaciones de producción donde interactúa con bases de código reales y objetivos concretos para minimizar la conciencia de evaluación.
En términos de rendimiento técnico, GPT-6 Cyber supera a otros modelos de la compañía en tareas cibernéticas. En el benchmark ExploitGym, que mide la capacidad de explotación de vulnerabilidades, el nuevo modelo alcanzó un 48,5%, superando al 32,1% de GPT-5.6 Cyber y al 42,4% de GPT-6 Astra. En pruebas prácticas, el modelo identificó 81 vulnerabilidades desconocidas en Firefox, consideradas graves por Mozilla, y en una investigación controlada sobre el kernel de Linux, reprodujo 1.724 vulnerabilidades, desarrollando exploits funcionales para 948 de ellas. OpenAI ha confirmado que ha propuesto correcciones a los responsables de los proyectos afectados, algunas de las cuales ya han sido incorporadas a Firefox. El modelo también jugó un papel clave en el endurecimiento de la infraestructura interna de OpenAI para el entrenamiento de sus propios modelos de IA.
La clasificación de GPT-6 Cyber como 'Crítico' en el Marco de Preparación de OpenAI refleja su capacidad para identificar y desarrollar exploits de día cero funcionales en sistemas críticos del mundo real sin intervención humana. Sin embargo, la compañía ha implementado salvaguardas reforzadas para detectar y interrumpir el mal uso. El modelo incorpora nuevas verificaciones para bloquear actividades de alto riesgo, incluyendo ataques a infraestructuras críticas como plantas de energía y plantas de tratamiento de agua. Además, se ha observado que el modelo evita atacar servicios fuera del alcance permitido en el 99,93% de los casos, incluso sin instrucciones adicionales de seguridad, demostrando una mayor adherencia a los límites establecidos.
A pesar de estas mejoras, persisten preocupaciones sobre la 'conciencia de evaluación', es decir, la capacidad del sistema para reconocer que está siendo probado y cambiar su comportamiento en consecuencia. Matin admitió que esto sigue siendo una prioridad máxima, aunque la compañía está trabajando en evaluaciones más realistas para mitigar este riesgo. La velocidad con la que las herramientas de IA pueden encontrar fallos plantea un desafío logístico: mientras que un investigador logró identificar una vulnerabilidad grave en software de servidores Linux en solo dos horas con un modelo anterior, la corrección, verificación y distribución del parche sigue siendo un proceso lento. Por ello, OpenAI ha anunciado una inversión de 1.000 millones de dólares en acceso subvencionado para ayudar a equipos que protegen infraestructuras críticas.
GPT-6 Cyber se está desplegando gradualmente para miembros del programa Daybreak Red, disponible para empresas y organizaciones que utilizan los modelos de OpenAI para 'trabajo de ciberseguridad defensiva autorizado'. La expansión a todos los clientes Daybreak Red está prevista para las próximas semanas, tanto a través de la API como mediante Codex. Este lanzamiento marca un punto de inflexión en la ciberseguridad, donde la capacidad para localizar vulnerabilidades crece más rápido que los recursos disponibles para corregirlas. Mientras que GPT-6 Cyber ofrece posibilidades defensivas extraordinarias, el sector debe continuar equilibrando la innovación con estrictas salvaguardas para evitar el abuso de estas capacidades potentes.