La investigadora de ciberseguridad Katie Moussouris, que ha podido examinar el informe que motivó el bloqueo de los modelos de IA Fable 5 y Mythos 5 por parte del Gobierno estadounidense, sostiene que la suspensión nunca debió producirse. Según Moussouris, los modelos no fueron desbloqueados mediante un jailbreak, sino que simplemente obedecieron a la instrucción «fix this code». Los investigadores presentaron a Fable 5, Mythos y Opus código abierto con vulnerabilidades conocidas y otras insertadas deliberadamente; el modelo rechazó la petición de auditar el código, pero sí lo arregló cuando se le pidió repararlo. La respuesta se transformó mediante un proceso manual y escalonado en scripts que verificaban los parches. Moussouris advierte de que restringir las herramientas de IA a los profesionales de ciberseguridad impide su uso legítimo, como parchear vulnerabilidades, explicar su relevancia y escribir pruebas, justo lo más valioso que estos modelos pueden aportar a la defensa cibernética. Participó hace más de una década en las negociaciones del Acuerdo de Wassenaar para incluir excepciones a actividades defensivas. Junto a otros expertos, ha pedido a la Administración estadounidense que revise la decisión y levante la suspensión; las conversaciones del lunes fracasaron. Anthropic afirma que la técnica no es exclusiva de sus modelos y afectaría también a los de OpenAI. Axios señala que en el Gobierno existe la sensación de haber sido engañado y que ambas partes hablan lenguajes distintos.
Noticias agregadas con IA