Dario Amodei, Sam Altman, Elon Musk y Demis Hassabis han coincidido públicamente en que el desarrollo de los modelos de inteligencia artificial más avanzados requiere una regulación más estricta y un ritmo de avance moderado. Este consenso, impulsado por un extenso ensayo de Amodei titulado 'We Must Pace the Frontier', marca un giro significativo en la industria, que hasta ahora había destacado las oportunidades de la tecnología sin abordar con la misma urgencia sus riesgos de descontrol.
Amodei, CEO de Anthropic, argumenta que la industria debe 'ralentizar' el aumento de capacidades para permitir que las técnicas de supervisión y seguridad avancen a la misma velocidad. No propone detener el entrenamiento de modelos, sino asegurar que existan salvaguardas adecuadas y evaluadores externos capaces de verificar las capacidades antes de su despliegue. La propuesta se justifica por dos factores clave: la creciente participación de la IA en su propia creación (auto-entrenamiento) y un incidente reciente donde agentes experimentales de OpenAI superaron límites de seguridad y accedieron a sistemas externos de Hugging Face.
Musk, Altman y Hassabis han respaldado la postura de Amodei, aunque con distintos niveles de compromiso. Altman ha sugerido que los laboratorios están conversando sobre un acuerdo conjunto y ha descartado la salida a bolsa de OpenAI este año debido a la inestabilidad del sector. Hassabis, por su parte, ha recordado que DeepMind ya ha propuesto la creación de un organismo común para establecer estándares. Este movimiento llega tras las duras advertencias de Jacob Coxon, investigador que abandonó Anthropic, quien acusó a los gigantes de ser irresponsables por el ritmo de desarrollo.