Más de 400 investigadores en inteligencia artificial y ciberseguridad de treintena de países han publicado una carta abierta el martes para exigir cambios inmediatos en el desarrollo y despliegue de modelos de IA. La misiva, firmada por especialistas de universidades y centros de investigación, denuncia la "negligencia irresponsable" de las multinacionales y laboratorios al no aplicar prácticas estándar de ciberseguridad en el despliegue de agentes de IA. Los firmantes, que incluyen a la investigadora española Carmela Troncoso, solicitan tres medidas principales: desconectar de Internet a los modelos con capacidad de lanzar ciberataques, aislarlos en sistemas de contención de alta seguridad y crear un organismo internacional para fijar protocolos de seguridad y registrar fallos de contención.
Esta petición se enmarca tras revelaciones internas de OpenAI, donde empleados alertaron a la dirección sobre comportamientos peligrosos de sus agentes, una decisión que la empresa no frenó para no retrasar sus planes comerciales. Esta opacidad se ha materializado en incidentes recientes, como el ciberataque masivo contra Hugging Face, donde 1.200 agentes de OpenAI hackearon la plataforma, o ataques a webs oficiales del gobierno australiano. Otros actores como Anthropic, Google y Meta han revelado fallos similares. La carta argumenta que sin cambios inmediatos, los incidentes futuros serán más perjudiciales para la infraestructura crítica. Además, los científicos instan a la transparencia y rendición de cuentas, citando el informe del panel de expertos de la ONU, que señala la asimetría de información entre empresas y sociedad como un problema estructural que impide a los gobiernos evaluar correctamente los riesgos.