Dario Amodei, director ejecutivo de Anthropic, ha instado a ralentizar el ritmo de desarrollo de los modelos de inteligencia artificial y a someterlos a una supervisión estricta. En un ensayo publicado el sábado, Amodei argumentó que, si bien el desarrollo de la IA no está en cuestión, los riesgos asociados son «serios» y las empresas y gobiernos necesitan tiempo para abordarlos. Su plan de tres puntos incluye la monitorización independiente de los modelos, la regulación a nivel de la industria y la regulación global.
La llamada a la cautela se produce en un contexto de crecientes preocupaciones sobre los riesgos de la tecnología, incluyendo advertencias de que la IA podría superar el control humano. Sam Altman, CEO de OpenAI, ha señalado que los estándares de seguridad no están listos para empujar las capacidades de la IA más allá. Por su parte, el presidente de EE. UU., Donald Trump, ha rechazado estos temores, priorizando la ventaja competitiva de Estados Unidos.
Amodei propuso construir la IA a un ritmo equilibrado que asegure su seguridad sin detener el progreso técnico, permitiendo a las empresas tiempo para alinear y salvaguardar sus modelos. Anthropic se compromete unilateralmente a este enfoque y pide a los gobiernos que exijan a otras empresas fronterizas hacer lo mismo. El CEO de Anthropic advirtió que una pausa de uno o dos años podría reducir significativamente el riesgo de fallos graves, siempre que se mantenga la ventaja comercial de EE. UU. y se evite que China se adelante. Además, urgió al gobierno estadounidense a impedir la venta de chips de IA a China o el intercambio de tecnología con países autoritarios. La reacción ha sido mixta: Elon Musk apoyó la postura de Amodei, mientras que otros observadores, como Chamath Palihapitiya, sugirieron que la iniciativa busca consolidar el control de la tecnología en manos de Anthropic.