Anthropic, la empresa de inteligencia artificial más valiosa del mundo, ha solicitado una paralización global del desarrollo de IA, advirtiendo de que la humanidad corre el riesgo de perder el control de la tecnología. En un ensayo firmado por Marina Favaro, responsable de investigación, y Jack Clark, presidente de la compañía, Anthropic compara el avance de la IA con «un problema de control de armamentos» y se ofrece a suspender el desarrollo de sus sistemas más avanzados si otros actores hacen lo mismo.
La alerta gira en torno a la automejora recursiva (RSI), un fenómeno por el cual los sistemas de IA serían capaces de mejorarse a sí mismos y construir a sus propios sucesores. Anthropic sostiene que, si la RSI se materializa, los humanos perderán la capacidad de supervisar, proteger y moldear el comportamiento de estos sistemas. La compañía ya mantiene bajo control interno su modelo más avanzado, Mythos, por su potencial peligrosidad.
La petición recuerda a la carta abierta firmada hace más de tres años por unas 1.000 personalidades —entre ellas científicos, ingenieros, empresarios y políticos— que solicitaban una pausa de seis meses en los grandes proyectos de IA. Desde entonces, el sector ha seguido avanzando a un ritmo acelerado pese a las preocupaciones por ciberseguridad, empleo, consumo energético y colapso de la cadena de semiconductores. Anthropic, valorada en 965.000 millones de dólares tras superar a OpenAI como la empresa de IA más valiosa del mundo, lanza esta advertencia en un contexto de competencia entre Estados Unidos y China, con inversiones de billones de dólares en juego.