Figurantes senior del Partido Laborista en el Reino Unido han expresado su preocupación por la seguridad de la inteligencia artificial, citando la necesidad de evitar que el gobierno quede rezagado frente a las inquietudes del público. Durante la conferencia del partido, varios ministros señalaron que la IA superinteligente concentrada en manos de actores maliciosos representa una amenaza existencial, más que la ficción de robots asesinos. Ed Miliband, líder del partido, advirtió que los beneficios de las empresas tecnológicas no deben comprometer el futuro de la humanidad.
La alarma se ha intensificado en las últimas semanas, con el ministro de IA, Kanishka Narayan, advirtiendo de que los agentes autónomos podrían hackear el estado británico. El jefe de la inteligencia de seguridad, Ken McCall, alertó sobre el uso de IA para desarrollar bioweapons por parte de grupos extremistas. Liam Byrne, presidente del comité de negocios e innovación, señaló que el cambio de liderazgo de Keir Starmer a Andy Burnham ha permitido una postura más firme ante las amenazas de la IA, tras la percepción de que el gobierno anterior estaba demasiado cercano a las grandes tecnológicas.
El comité de Byrne ha celebrado sesiones de evidencia con ejecutivos de OpenAI, Anthropic, DeepMind y Meta, discutiendo la necesidad de pruebas obligatorias de nuevos modelos. Existe un dilema regulatorio: por un lado, la presión de la administración de Donald Trump para no compartir modelos con el Instituto de Seguridad de la IA del Reino Unido; por otro, la necesidad de regular la IA para prevenir daños letales. Expertos como Geoffrey Irving advierten que los modelos de código abierto, al no tener barreras de seguridad robustas, podrían alcanzar capacidades destructivas pronto. Por su parte, Elena Simperl, de King's College London, argumenta que los riesgos existenciales carecen de evidencia y que la atención debe centrarse en amenazas inmediatas como el ciberataque y la adicción a la IA.