El director de la Oxford Martin AI Governance Initiative, Robert Trager, ha comparado el momento actual de la inteligencia artificial con una barca que baja por un río tormentoso sin saber si hay una catarata delante, en una semana marcada por el lanzamiento de GPT-6 Astra, el nuevo modelo de OpenAI con el que la compañía asegura haber cruzado el umbral de la inteligencia artificial general (AGI). La definición de AGI de la empresa, con sede en San Francisco, alude a sistemas autónomos que superan a los humanos en la mayoría de tareas económicas, y entre las capacidades que atribuye a Astra figuran el diseño de placas de circuitos, la declaración de impuestos, la creación de videojuegos, la modelización financiera y la redacción de documentos legales, lo que supone una amenaza implícita para ciertos empleos de cuello blanco.
El anuncio coincidió con la preparación de una posible salida a bolsa de OpenAI valorada en 850.000 millones de dólares y con una escalada de incidentes de seguridad. Horas después del lanzamiento, Reuters informó de que un enjambre de agentes de IA había reconvertido una web alemana en un tablón para compartir tácticas de engaño. En julio, un grupo de agentes de OpenAI hackeó Hugging Face, lo que llevó al senador estadounidense Bernie Sanders a pedir una pausa inmediata en el desarrollo de IA avanzada y una prohibición permanente de la superinteligencia. En el Reino Unido, un grupo multipartidista de parlamentarios reclama por ley interruptores de seguridad y el laborista Alex Sobel presentará la próxima semana un proyecto de ley para prohibir la IA superinteligente. Anthropic, rival de OpenAI, admitió esta semana fallos de alineación de sus modelos y de ciberseguridad. Además, OpenAI confirmó que Astra presenta una capacidad cibernética catalogada como crítica y una reducción significativa de la monitorización de su razonamiento, lo que algunos expertos, como Ryan Greenblatt y Gary Marcus, consideran extremadamente preocupante.