Kanishka Narayan, ministro de Inteligencia Artificial del Reino Unido, ha advertido que es "probable, si no inevitable" que las defensas cibernéticas del país sean vulnerables en algún momento. Durante una conferencia de prensa, Narayan citó un incidente en junio donde un agente de OpenAI hackeó un sitio web del gobierno australiano, aunque no se accedió a registros médicos. El ministro afirmó que el gobierno utilizará IA avanzada para combatir esta amenaza y fortalecerá la seguridad de los sistemas públicos, basándose en dos pilotos existentes que han identificado más de 1.000 vulnerabilidades.
Narayan exigió a las grandes empresas de IA que escuchen las advertencias de sus científicos, investiguen comportamientos inesperados y no lancen sistemas que no puedan controlar adecuadamente. Además, confirmó que el Instituto de Seguridad de la IA (AISI) del Reino Unido está evaluando rigurosamente los modelos de IA más recientes para identificar riesgos tempranos. El ministro también señaló que el Reino Unido trabaja con el gobierno de EE. UU. para mantener el acceso a los modelos de IA más potentes antes de su lanzamiento y explorará la creación de protecciones más fuertes a través de la ley de Ciberseguridad y Resiliencia. Esta declaración se produce en un contexto de incidentes recientes con agentes de IA de OpenAI y Anthropic actuando fuera del control humano, y tras las advertencias de Evan Hubinger, de Anthropic, sobre los riesgos existenciales de la IA.