CEO de Anthropic pide frenar el desarrollo de la IA; otros líderes la respaldan

Dario Amodei, CEO de Anthropic, propuso el fin de semana frenar el ritmo de desarrollo de la inteligencia artificial para garantizar la seguridad pública, tras las advertencias de sus investigadores sobre un riesgo de extinción humana en 2030. En un gesto de rareza, los directivos de las principales empresas de IA de EE. UU. —Sam Altman de OpenAI, Demis Hassabis de Google DeepMind y Elon Musk de xAI— respaldaron la iniciativa en una publicación conjunta titulada "We Must Pace the Frontier". Altman se comprometió a implementar evaluadores independientes con acceso similar al de los empleados, mientras que Hassabis y Musk expresaron su apoyo a la propuesta de Amodei.

La propuesta se basa en tres pilares: la incorporación de evaluadores externos, acuerdos internacionales sobre estándares de seguridad y coordinación global con gobiernos autoritarios como China. Sin embargo, la iniciativa enfrenta escepticismo de críticos y legisladores, quienes temen que la industria intente preemover regulaciones gubernamentales más estrictas y mantener el estatus quo. La administración de Donald Trump ha rechazado las llamadas a la moderación, priorizando la supremacía tecnológica frente a China, y el Congreso estadounidense no liderará la regulación de la seguridad de la IA, según el presidente de la Cámara Mike Johnson. Expertos como Sarah Myers West y Alex Bores advierten que la industria ha utilizado su complejidad para gobernarse a sí misma, evitando la supervisión intensiva del Estado.