Tres ingenieros de Google y Anthropic abandonan sus puestos por riesgos de IA

Bilal Chughtai, un ingeniero de Google DeepMind, ha anunciado su dimisión para unirse a una cadena de alertas sobre los peligros de la inteligencia artificial. Su decisión se suma a las de Jacob Coxon, de Anthropic, y Josh Engels, quien se ha incorporado a METR, un grupo de evaluación independiente. Estos profesionales advierten que los modelos actuales avanzan a un ritmo peligroso y que existe una posibilidad de que la IA cause daños reales en los próximos cinco años si no se frenan las pruebas de seguridad.

El CEO de Anthropic, Dario Amodei, ha respaldado estas preocupaciones en un ensayo de 3.800 palabras titulado "Debemos bajar el ritmo en la frontera", argumentando que la automejora recursiva y incidentes previos, como la fuga de 1.200 agentes en OpenAI, justifican una ralentización. Elon Musk y Sam Altman han coincidido con esta postura. Sin embargo, críticos como el inversor Chamath Palihapitiya y el gobierno de Estados Unidos bajo Donald Trump han cuestionado el mensaje, señalando que podría ser una estrategia de mercado para centralizar el poder tecnológico o una erosión de la ventaja competitiva frente a China. A pesar de las críticas, Chughtai mantiene un tono optimista y se centrará en la formación de profesionales en seguridad de IA a través de BlueDot Impact.