El fundador y consejero delegado de Anthropic, Dario Amodei, negó este lunes que su compañía haya abogado por vetar los modelos de IA de pesos abiertos, en respuesta a los rumores que apuntaban en esa dirección. En un artículo publicado en el blog de la empresa, Amodei aseguró que Anthropic nunca ha apoyado una prohibición de este tipo y que considera los modelos de código abierto sin capacidades peligrosas como «un bien público» útil para empresas, desarrolladores e investigadores.
La aclaración llega después de que el consejero delegado de Nvidia, Jensen Huang, difundiera el viernes una carta abierta firmada por Nvidia, Hugging Face, Meta, Microsoft, Mistral y otras firmas en la que se pide a los responsables políticos que no impongan «restricciones prematuras» generalizadas a los modelos de pesos abiertos.
Amodei matiza que su preocupación principal no son los modelos abiertos, incluso los chinos, sino que «gobiernos autoritarios» desarrollen modelos más avanzados que los estadounidenses para lograr una «superioridad militar permanente» o utilizarlos para reprimir a su población. El Partido Comunista Chino, señaló, es el más capaz de esos gobiernos, aunque no el único.
Entre las medidas que propone para frenar a China figuran restringir el acceso a chips avanzados —política ya en marcha en EE. UU.— y perseguir la destilación de modelos, técnica con la que laboratorios chinos entrenarían IAs a partir de modelos estadounidenses. Amodei también mostró su apoyo a la creación de un organismo internacional de pruebas de seguridad al que se sumen todos los países, incluida China.