Amodei rechaza prohibir los modelos de pesos abiertos y propone controles de chips y pruebas de seguridad

Fuentes: Amodei opposes banning open-weights models, backs chip curbs and mandatory safety tests

El consejero delegado de Anthropic, Dario Amodei, niega que su empresa haya pedido vetar los modelos de inteligencia artificial de pesos abiertos, en medio del debate sobre una posible prohibición estadounidense de los modelos chinos. Amodei sostiene que vetar su uso a empresas estadounidenses no mitiga sus dos principales preocupaciones de seguridad nacional: que gobiernos autoritarios, encabezados por el Partido Comunista Chino, logren una superioridad militar con modelos entrenados en secreto, y que modelos potentes sean utilizados para ciberataques o ataques biológicos.

Para responder a esos riesgos, Amodei apoya tres medidas: mantener el embargo de chips avanzados hacia China y perseguir su contrabando, perseguir las operaciones de destilación a escala industrial que permiten a China acortar distancias con menor cómputo, y someter a pruebas obligatorias de seguridad a todos los modelos suficientemente capaces, sean abiertos o cerrados, antes de su lanzamiento. Defiende que la seguridad de los modelos abiertos debe evaluarse con pruebas, no decidirse de antemano, y que la cooperación con China en materia de armas biológicas es posible.

Sobre la carta abierta de varias tecnológicas a favor de los pesos abiertos, Amodei coincide en que amplían el acceso y la competencia, pero discrepa de que faciliten los sistemas de protección o beneficien siempre más a los defensores que a los atacantes.