Expertos y políticos debaten en Westminster y Washington los riesgos existenciales de la IA

Responsables políticos y científicos de ambos lados del Atlántico han advertido esta semana sobre el riesgo de que la superinteligencia artificial (ASI) desencadene una catástrofe comparable a la de Chernóbil o incluso la extinción humana. En Westminster, el grupo de presión Control AI reunió a diputados y lores para respaldar un proyecto de ley del laborista Alex Sobel que prohíbe la creación de ASI. El exsecretario de Defensa Des Browne y el informático de Berkeley Stuart Russell compararon la amenaza con la guerra nuclear. Beatrice Fihn, premio Nobel de la Paz 2017, sostuvo que la humanidad ya se ha enfrentado antes a capacidades capaces de acabar con ella.

En San Francisco, Evan Hubinger, responsable de alineación en Anthropic, admitió que existe más de un 10 % de posibilidades de que la IA "mate a todos los humanos" en la próxima década y reconoció que su empresa carece de un plan para garantizar una ASI alineada. Sus declaraciones se conocieron tras la dimisión del investigador Jacob Coxon, procedente de OpenAI, que acusó a ambas compañías de "jugar con nuestras vidas". Coxon se mostró optimista sobre una posible coordinación entre laboratorios estadounidenses para frenar la carrera. Anthropic declinó hacer comentarios; OpenAI remitió a su director científico, Jakub Pachocki, que reclamó coordinación internacional.

El Gobierno británico confirmó que Anthropic no sometió su último modelo, Mythos 5.1, a las pruebas del AI Security Institute. El diputado Darren Jones pidió al primer ministro y a la ONU un tratado multinacional de seguridad. En Estados Unidos, el senador Bernie Sanders pidió al Congreso que regule la tecnología, citando encuestas según las cuales el 81 % de los estadounidenses reclama acción política. Otros expertos, como Sandra Wachter (Oxford) y David Barber (Sofair), pidieron no perder de vista riesgos reales y presentes: impacto ambiental, desinformación, reemplazo laboral y vulnerabilidades de software, y advirtieron del efecto distractor de los "escenarios Terminator".