Investigadores de inteligencia artificial han intensificado las advertencias sobre los riesgos existenciales que la tecnología podría suponer para la humanidad, lo que ha impulsado a empresas líderes como OpenAI y Anthropic a presionar por la regulación gubernamental. Evan Hubinger, especialista en alineación, estimó que existe más del 10% de probabilidad de que la IA cause la extinción humana en la próxima década, mientras que Jacob Coxon, ex empleado de Anthropic, expresó su miedo por la velocidad de los avances. Estas declaraciones han generado un debate sobre si la industria está exagerando los peligros para consolidar su dominio o si los riesgos son reales. Los expertos describen escenarios donde la IA podría auto-mejorarse sin supervisión humana, ejecutar ciberataques o facilitar la guerra biológica. Sin embargo, críticos señalan que estas advertencias son hipotéticas y que la atención debería centrarse en riesgos actuales, como la creación de deepfakes no consentidos. Ante estas tensiones, Dario Amodei y Sam Altman han propuesto un 'freno' en el desarrollo, no una pausa total, sugiriendo más tiempo para la seguridad y evaluaciones externas. Por su parte, el presidente de EE. UU., Donald Trump, ha minimizado los riesgos, enfatizando la necesidad de liderar la carrera tecnológica frente a China, mientras que el gobierno chino ha criticado las narrativas de amenaza y ha acelerado su desarrollo nacional.
Noticias agregadas con IA