La IA va a hacer que el software sea demasiado seguro y eso también preocupa

La periodista y experta en criptografía Susan Landau advirtió en su blog, tras asistir a Usenix Security en Baltimore, que la inteligencia artificial aplicada a la búsqueda de vulnerabilidades podría provocar que el software sea demasiado seguro, hasta el punto de dejar «a oscuras» a las agencias de inteligencia y fuerzas de seguridad estadounidenses. Según explicó, durante la última década estas agencias compensaron la imposibilidad de romper el cifrado de dispositivos y mensajería (el debate del «Going Dark» del FBI, iniciado por James Comey en 2014) adquiriendo herramientas de hacking a empresas privadas que explotaban vulnerabilidades desconocidas. Sin embargo, la llegada de modelos de IA especializados en encontrar fallos, como Mythos de Anthropic —cuya exportación fue bloqueada temporalmente por EE. UU.— y otros equivalentes de OpenAI, Z.ai y Moonshot, está acelerando el descubrimiento y parcheo de bugs a un ritmo sin precedentes. En su estimación, en los próximos dos años el software bien mantenido podría quedarse sin vulnerabilidades explotables remotamente. Landau teme que, ante esa escasez, los gobiernos vuelvan a presionar a la industria para que construya puertas traseras intencionadas, reviviendo el debate sobre el acceso excepcional. Además, advierte de que esas puertas traseras debilitarían los sistemas propios frente a adversarios extranjeros justo cuando EE. UU. está aprendiendo a defender mejor su infraestructura. La autora reconoce no tener una solución clara y compara el momento con un «resbalón largo» hacia un escenario nuevo y todavía sin definir.