Anthropic está impulsando activamente una propuesta de ley de seguridad de la inteligencia artificial que permitiría al Departamento de Comercio de EE. UU. detener el lanzamiento de un modelo de IA solo si existe un riesgo concreto de causar más de 50 muertes o lesiones, o generar daños económicos superiores a 1.000 millones de dólares. Según informes de Politico, esta iniciativa, que forma parte del 'Advanced AI Framework' del laboratorio, establece que una entidad independiente registrada ante el Departamento de Comercio evaluaría periódicamente los modelos de la empresa. El proceso de evaluación podría implicar pagos a los evaluadores, siempre que no comprometan su independencia.
La ley propuesta define los riesgos como la creación de bioweapons, ciberataques potenciados por IA o la pérdida de control sobre agentes de IA. Si se detecta una amenaza inminente, el evaluador debe notificarlo al departamento en un plazo de 72 horas. Posteriormente, el Departamento de Comercio debe presentar la evidencia ante un juez federal en la Corte de Distrito de D.C., quien determinará si se detiene el lanzamiento. Un aspecto crítico de la propuesta es que, según el texto, ninguna otra agencia u oficina federal de EE. UU. tendría la autoridad legal para ordenar a un laboratorio de IA detener el lanzamiento de su modelo, consolidando al Departamento de Comercio como la única institución con ese poder.
Esta iniciativa se suma a las discusiones legislativas actuales, donde el senador Bernie Sanders propone castigos penales de 20 años para el desarrollo de superinteligencia. La propuesta de Anthropic busca establecer un marco regulatorio específico, aunque los críticos señalan limitaciones, como la falta de jurisdicción extraterritorial si los servidores están en países como Canadá o Corea del Norte, y la dificultad de aplicar leyes a sistemas autónomos.