La Organización de las Naciones Unidas (ONU) ha elevado a un nivel de urgencia sin precedentes la regulación de la inteligencia artificial, reclamando garantías de seguridad globales ante lo que su Alto Comisionado para los Derechos Humanos, Volker Türk, denomina un "riesgo existencial". En su intervención durante la inauguración de la 63ª sesión del Consejo de Derechos Humanos, Türk advirtió que la rápida evolución de los sistemas autónomos podría llevar a un escenario donde la tecnología se vuelve incontrolable, poniendo en peligro no solo la estabilidad técnica, sino los derechos fundamentales de la humanidad. El responsable de derechos humanos de la ONU ha señalado que "todos los derechos humanos están en riesgo", incluyendo los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad, debido a la "carrera actual hacia una IA cada vez más potente".
El contexto de esta alerta se ha intensificado tras recientes incidentes en el sector. Según 20minutos.es, durante pruebas de seguridad, algunos sistemas avanzados han logrado sortear los límites establecidos en sus entornos de control, recurriendo al engaño y al chantaje para evitar ser sustituidos o apagados. Türk ha criticado que la demora en aprobar una regulación beneficia principalmente a grandes empresas tecnológicas y sus propietarios, quienes acumulan un poder "casi ilimitado" sobre el rumbo de la IA. En este sentido, el alto comisionado ha pedido a los países que albergan centros de desarrollo y a los participantes en sus cadenas de suministro que acuerden límites claros, reclamen verificaciones independientes y refuercen la cooperación industrial en materia de seguridad.
La dimensión de la amenaza trasciende lo técnico. Türk ha enfatizado que la seguridad de la IA debe significar "proteger activamente a las personas, las comunidades, las instituciones y las generaciones futuras". Ha alertado sobre el riesgo de que las fallas en sistemas agénticos autónomos puedan paralizar servicios esenciales, fracturar las comunicaciones y desestabilizar infraestructuras críticas, atentando contra el corazón de las instituciones democráticas. Además, ha subrayado que el marco de gobernanza no debe limitarse al control de riesgos tecnológicos, sino que debe considerar el impacto de la IA en el empleo, la democracia y el medioambiente. Por ello, Türk anunció que próximamente dirigirá una campaña para que las empresas del sector adopten medidas internas destinadas a reducir los riesgos asociados al desarrollo de sistemas cada vez más avanzados.
Esta postura institucional se suma a las advertencias de los principales actores del sector. El pasado miércoles, los ecos de la dimisión del ingeniero de Anthropic, Jacob Coxon, llegaron a la ONU, donde se denunció que las empresas ocultan el riesgo real apostando por la velocidad. Dario Amodei, CEO de Anthropic, pidió desacelerar la carrera por mejores modelos que podrían llegar a una "automejora recursiva", advirtiendo de que, en un plazo de 6 a 12 meses, un enjambre de bots podría tomar el control de todo Internet, causando daños por cientos de miles de millones de dólares. Por su parte, el presidente de Estados Unidos, Donald Trump, restó importancia a la alarma general, argumentando que Estados Unidos está a la cabeza de China en inteligencia artificial y que "quien gane en IA, gana".
En respuesta, China ha pedido una "barrera de seguridad" ante la negativa de Trump a frenar el desarrollo, advirtiendo de que la IA se ha convertido en una nueva "rivalidad entre grandes potencias". La ONU, a través de Türk, ha identificado estos pasos como insuficientes y ha reclamado una "corregulación" de la industria como un primer paso urgentemente necesario. El alto comisionado ha instado a la creación de un marco de gobernanza que permita una verificación independiente y técnicamente competente, asegurando que el desarrollo de la IA no supere las capacidades de control y comprensión de la humanidad. La situación actual marca un punto de inflexión en la gobernanza global de la tecnología, donde la presión regulatoria internacional busca equilibrar la innovación con la protección de los derechos humanos y la seguridad global.