Google DeepMind valida la seguridad del protocolo Signal con IA

Fuentes: Google DeepMind Validates Signal Protocol Security With AI, deepmind.google, xataka.com

Google DeepMind ha logrado un hito significativo en la seguridad del software al validar formalmente el protocolo criptográfico de Signal utilizando un marco de trabajo de inteligencia artificial llamado AlphaProof Code. Este proyecto, realizado en solo cuatro semanas como una demostración de concepto, representa la primera vez que la IA se emplea para verificar matemáticamente las propiedades de seguridad de un protocolo criptográfico ampliamente desplegado a una profundidad sin precedentes. El trabajo no solo sirve como una validación independiente de la criptografía que protege miles de millones de comunicaciones privadas en aplicaciones como Signal, Google Messages y WhatsApp, sino que también demuestra las capacidades de verificación formal de DeepMind mediante la colaboración entre expertos humanos y agentes de IA.

La verificación formal es considerada el estándar más alto de garantía de seguridad, ya que utiliza matemáticas para comprobar que el software funciona como se espera, sin vulnerabilidades críticas. Tradicionalmente, este proceso ha sido extremadamente laborioso y costoso, requiriendo años de trabajo para describir las características del software y desarrollar las pruebas. Sin embargo, la era de la IA ha transformado este panorama. Según Wired, la IA agéntica ha reducido drásticamente el tiempo necesario para describir y probar estas características, permitiendo análisis como el de DeepMind. Aunque la verificación formal ha sido descrita por sus defensores como el 'santo grial' de la seguridad del software, su adopción generalizada sigue siendo un desafío debido a la complejidad y el costo.

El enfoque de DeepMind, conocido como AlphaProof Code, es un marco agéntico multi-LLM que divide el trabajo de la verificación formal como lo haría un equipo de investigación. Primero, los investigadores colaboraron con una mezcla de modelos para traducir los objetivos de seguridad de Signal en especificaciones matemáticas formales, con expertos humanos revisando cada uno. A continuación, agentes impulsados por Gemini Carbon generaron más de seis millones de líneas de Lean, un lenguaje de programación que prueba matemáticamente la precisión del código. Los agentes luego auditaron la prueba, destacando áreas que requerían una segunda mirada humana; solo el uno por ciento del código base necesitó revisión manual, mientras que Lean verificó automáticamente el resto. Este proceso permitió a los expertos centrarse en el juicio humano donde es más crítico.

Un aspecto crucial de este logro es que la verificación no se limitó al diseño del protocolo, sino que extendió la prueba hasta el código compilado que se ejecuta en los dispositivos. Las vulnerabilidades reales a menudo se esconden en la brecha entre el diseño y la implementación. Al demostrar que el código compilado cumple las propiedades de seguridad, como mantener los mensajes protegidos incluso cuando el dispositivo se compromete temporalmente, DeepMind ha cerrado una brecha histórica en la verificación criptográfica. Además, para confirmar que AlphaProof Code puede distinguir entre código correcto y defectuoso, los investigadores reintrodujeron dos errores reales y previamente corregidos en una versión aislada de Signal. En ambos casos, el sistema generó pruebas verificadas por máquina que demostraron que la versión defectuosa era insegura.

Ehren Kret, CTO de Signal, destacó que este enfoque permite una expansión significativa, ya que la verificación tradicional se centraba en porciones más pequeñas del código. Kret afirmó que, a medida que las amenazas de seguridad impulsadas por IA crecen, la verificación rigurosa del protocolo de Signal aumenta la confianza en las garantías de privacidad del código. Por su parte, Pushmeet Kohli, científico jefe de Google Cloud y vicepresidente de investigación de DeepMind, señaló que la capacidad de verificar la corrección de estas implementaciones permite a instituciones como los bancos y otras empresas que dependen de garantías de seguridad decir con certeza: "puedo probar estas propiedades".

Sin embargo, los investigadores advierten que hay un largo camino por recorrer antes de escalar esto a todo el software del mundo. Swarat Chaudhuri, científico de investigación de DeepMind, enfatizó que sus hallazgos son solo un hito en un proceso más amplio. La velocidad del proyecto fue notable, pero los investigadores señalan que tuvieron una ventaja inicial debido a trabajos previos de verificación formal realizados por la Signal Foundation. Chaudhuri también subrayó la importancia de un proceso de colaboración 'humano-IA', donde los agentes contribuyen y se autocorregen, pero siempre buscan la entrada y revisión humana en puntos clave, evitando un mundo donde la IA genera objetivos y pruebas sin supervisión.

En conclusión, aunque Google DeepMind realizó el análisis de Signal de forma gratuita como un proyecto de investigación y la empresa rechazó compartir los costos o comentar sobre planes para lanzar un servicio comercial de verificación formal, el logro establece un nuevo estándar en la seguridad del software. La capacidad de la IA para manejar la complejidad de la verificación formal a gran escala abre la puerta a una mayor confianza en la privacidad digital, aunque la comunidad técnica sigue observando con cautela si esta tecnología puede escalar a un costo viable para la industria global.