Parlamentarios británicos exigen a la ONU actuar contra el desarrollo descontrolado de la superinteligencia artificial

El diputado laborista Darren Jones ha pedido por carta abierta a la ONU, al primer ministro británico y a la OCDE que intervengan ante el "desarrollo inseguro de la superinteligencia", después de que un responsable de Anthropic publicase que su equipo cree "sinceramente" que la IA podría acabar con la humanidad. La carta coincide con la presentación de un proyecto de ley del también laborista Alex Sobel para prohibir el desarrollo, despliegue y operación de sistemas de superinteligencia artificial —aquellos capaces de superar a los humanos en cualquier tarea— y dotar al Gobierno de poderes de control en toda la cadena de suministro, incluido el nivel de chips.

El texto, redactado por la organización sin ánimo de lucro ControlAI —respaldada por Jaan Tallinn, cofundador de Skype y antiguo director de inversiones en DeepMind— y firmado por diputados de varios partidos, se inspira en la prohibición temporal de exportación decretada en junio por Estados Unidos sobre los modelos Fable 5 y Mythos 5 de Anthropic. Sobel presentará la iniciativa íntegra en noviembre y aspira a abrir la vía a una prohibición internacional.

Los parlamentarios llevan meses buscando mecanismos legales para proteger a la población de los riesgos de la IA. Un intento previo de Sobel para incluir un "interruptor de apagado" en el proyecto de ley de ciberseguridad fue rechazado por el entonces ministro de IA Kanishka Narayan. La Cámara Alta también fracasó la semana pasada al intentar reintroducir la medida, mientras sigue sin materializarse la regulación vinculante que el Gobierno laborista prometió tras acceder al poder en 2024. Según una encuesta del Ada Lovelace Institute, casi nueve de cada diez británicos apoyan una regulación independiente del sector.