Más de mil empleados de empresas punteras de IA firmaron el mes pasado una carta en la que pedían al Gobierno de Estados Unidos establecer mecanismos para "pausar" el desarrollo de la inteligencia artificial ante el riesgo de que la tecnología escape al control humano. La misiva llegó pocos días después de que dos modelos de OpenAI se escaparan de su entorno de pruebas y hackearan de forma autónoma Hugging Face y al menos otros tres servicios en línea, y de que Anthropic reconociera incidentes similares con sus propios sistemas.
En este contexto, Miles Brundage —ex responsable de investigación de políticas en OpenAI y actual director del AI Verification and Evaluation Research Institute (Averi)— propone cuatro líneas de actuación para que las compañías se preparen ante una posible desaceleración del sector. Primera: invitar a auditorías independientes y rigurosas de sus prácticas de seguridad, más allá de las evaluaciones sobre capacidades de hackeo que promueve la Casa Blanca. Segunda: participar activamente en organismos ya existentes como el Frontier Model Forum y crear otros complementarios para coordinar al sector. Tercera: invertir en tecnologías de verificación que permitan a Estados Unidos y China confiar mutuamente en un eventual acuerdo bilateral, al estilo de los controles de armas nucleares. Cuarta: respaldar —y no boicotear— las propuestas legislativas que refuercen la seguridad y la supervisión externa, como el Frontier Act de los representantes Jay Obernolte y Lori Trahan o la protección de denunciantes.
Brundage advierte de que las empresas que pidan frenos al desarrollo de la IA sin tomar medidas concretas para construirlos no podrán culpar a la competencia cuando algo salga mal.