Expertos chinos y estadounidenses piden cooperación en IA ante riesgos sistémicos

Fuentes: I Met With China's Top AI Experts. They're Freaking Out, Too

El periodista Will Knight asistió a una conferencia de inteligencia artificial en Zhongguancun, distrito tecnológico de Pekín, organizada por la Academia de Inteligencia Artificial de Pekín. Reunió a figuras legendarias de la informática como Whitfield Diffie, codescubridor de la criptografía de clave pública, y Andrew Barto, ganador del Premio Turing por su trabajo en aprendizaje por refuerzo.

La conclusión principal del encuentro es que Estados Unidos y China deberían aparcar su rivalidad en IA ante la gravedad de los riesgos cibernéticos y sistémicos que plantean los modelos de frontera, cada vez más capaces y agentes. Stephen Casper, científico computacional del MIT, afirmó que "la IA es una tecnología global con beneficios globales, daños globales y una tendencia constante a que las nuevas capacidades acaben proliferando".

Hasta ahora, Washington ha tratado los avances chinos como una amenaza económica y de seguridad nacional, imponiendo restricciones a chips y obligando a Anthropic a impedir el acceso de extranjeros a sus modelos más avanzados, Mythos y Fable 5. Sin embargo, los expertos reunidos en Pekín coincidieron en que ambos países perderían si la IA se desarrolla de forma demasiado rápida e imprudente. Casper comparó la situación con la cooperación nuclear entre EE UU y la Unión Soviética durante la Guerra Fría.

Lin Yun, profesor de la Universidad Jiao Tong de Shanghái, aseguró que los piratas informáticos llevarán la delantera a corto plazo, aunque las nuevas contramedidas basadas en IA podrían equilibrar la balanza. Además, el artículo señala que la empresa china 360 Security Technologies anunció haber desarrollado un modelo con capacidades de hackeo equiparables a Mythos. Yun concluyó que la cooperación internacional sigue siendo prioritaria si ambos países entienden los riesgos de forma similar.