La industria de la inteligencia artificial continúa su desarrollo acelerado a pesar de más de una década de advertencias públicas sobre riesgos existenciales. Esta tendencia se ha intensificado tras la dimisión de Jacob Coxon, investigador de seguridad en Anthropic, quien alertó sobre la carrera descontrolada hacia la superinteligencia. La situación ha provocado una reacción institucional: el CEO de Anthropic, Dario Amodei, convocó a los directivos de OpenAI y otras empresas para exigir una pausa en el desarrollo, citando riesgos de pérdida de control, ciberataques y disrupción económica.
El conflicto interno en la industria remonta a 2014, cuando Stephen Hawking advirtió sobre la posibilidad de que la IA supere a la humanidad. A pesar de que la IA generativa estaba en sus inicios, la presión competitiva impulsó a figuras como Elon Musk y Sam Altman a fundar OpenAI en 2015, con la misión de priorizar el beneficio humano sobre el retorno financiero. Sin embargo, la prioridad comercial ha generado fracturas; en 2021, empleados de OpenAI se marcharon para fundar Anthropic, argumentando que la empresa priorizaba la velocidad sobre la seguridad. Hoy, ambas empresas enfrentan presiones financieras para generar beneficios, con fondos que superan los 130.000 millones de dólares en Anthropic y 190.000 millones en OpenAI. Recientemente, más de 1.000 empleados de Anthropic, Google, Meta y OpenAI firmaron una petición para que el gobierno de EE. UU. cree incentivos para ralentizar el desarrollo de la IA, tras revelaciones de brechas de seguridad en Hugging Face y otras firmas.