El CEO de Anthropic, Dario Amodei, ha lanzado un intenso debate sobre la seguridad de la inteligencia artificial tras publicar un ensayo titulado «We Must Pace the Frontier», en el que propone ralentizar el desarrollo de modelos de IA para garantizar su alineación y seguridad. Amodei sugiere tres medidas clave: evaluadores independientes de terceros, coordinación entre empresas de IA en países democráticos y un diálogo global entre gobiernos. Sin embargo, Amodei aclaró que esta pausa no implica detener el entrenamiento de modelos, sino asegurar que las empresas tomen el tiempo necesario para alinear sus sistemas.
Sam Altman, CEO de OpenAI, respaldó la postura de Amodei, calificando la idea de evaluadores independientes como «una gran idea» y comprometiendo a su empresa a adoptar un marco federal de seguridad consistente. Altman enfatizó que el objetivo es un progreso más lento que el actual, evitando la pérdida de control sobre el futuro y la concentración excesiva de poder. Por su parte, Demis Hassabis, cofundador de Google DeepMind, y Elon Musk, CEO de SpaceX, coincidieron en que la dirección propuesta por Amodei es correcta para este momento crítico.
En el ámbito político, la reacción ha sido mixta. El presidente de EE. UU., Donald Trump, rechazó la idea de una pausa, argumentando que la administración estadounidense ya ejerce un control regulatorio y criminal suficiente, y acusó a China de conspirar contra la IA. El vicepresidente JD Vance criticó la iniciativa como una «caballos de Troya» que busca regular a las empresas. Por el contrario, el líder del Congreso Mike Johnson propuso una reunión urgente con los proveedores de IA para definir un equilibrio entre la seguridad nacional y la protección de los modelos, mientras que el senador Bernie Sanders se alineó con la opinión de Peggy Noonan, quien abogó por pausar la IA por el bien de la humanidad.