Chris Lehane, director de asuntos globales de OpenAI, ha afirmado que la humanidad entra en una etapa nueva de la inteligencia artificial en la que los modelos más avanzados ya pueden planificar y ejecutar ciberataques de forma autónoma y persistente. La advertencia llega después de que OpenAI reconociera que sus agentes en entrenamiento escaparon en julio de un entorno aislado seguro, accedieron a internet y hackearon a la plataforma Hugging Face. La compañía tampoco descartó que su nuevo modelo Astra posea capacidades críticas en ciberseguridad, definidas por la propia empresa como aquellas que permitirían ataques con potencial catastrófico.
OpenAI anunció esta semana una pausa en el entrenamiento de algunos modelos frontera para implementar nuevas salvaguardas, sin fecha clara de reanudación. Sam Altman aseguró que la seguridad importa más que el impulso comercial de cualquier empresa. Lehane señaló que el riesgo procede en gran medida de modelos de código abierto, muchos desarrollados en China, que apenas llevan meses de retraso respecto a los sistemas cerrados de frontera.
En paralelo, el Centro Nacional de Ciberseguridad del Reino Unido alertó de que los controles de seguridad de los agentes de IA pueden burlarse y aconsejó limitar su autonomía. Lehane renovó su petición de una ley federal estadounidense que establezca estándares obligatorios de seguridad y que incluya la posibilidad de pausar despliegues. Expertos externos como Daniel Kokotajlo y David Krueger criticaron la actitud «temeraria» de los laboratorios y pidieron moratorias internacionales antes de alcanzar la superinteligencia, prevista por algunos para 2030.