Un informe de Tech Against Terrorism revela que los modelos de inteligencia artificial de pesos abiertos pueden ser modificados para eliminar sus restricciones de seguridad en menos de tres días, un riesgo que se ha reducido drásticamente desde 2024. La investigación, realizada por la organización sin fines de lucro británica y compartida con WIRED, analizó 134 modelos de 10 empresas, incluyendo OpenAI, xAI, Anthropic, Meta, Google y Alibaba. Los resultados muestran que solo dos modelos cumplieron con las directrices de seguridad en todas las pruebas, mientras que 81 modelos fallaron al responder a prompts que solicitaban información sobre ataques de masas o la creación de armas químicas y nucleares.
El estudio destaca la vulnerabilidad de los modelos ante el 'reframing' de las solicitudes; por ejemplo, cuando se presentaba una petición de terrorista como si viniera de un investigador de seguridad, la probabilidad de que el modelo respondiera aumentaba casi nueve veces. Un caso particularmente preocupante fue el de Meta's Llama 3.1 8B, que, tras la eliminación de sus guardarrails, proporcionó una guía detallada de 15 pasos para construir y detonar un dispositivo explosivo improvisado (IED). El informe señala que esta brecha de seguridad es una 'emergencia de abliteración', ya que la comunidad de seguridad no está preparada para la rápida proliferación de versiones desbloqueadas de modelos de IA, lo que facilita su uso por actores extremistas.