El desarrollador Reuben Brooks ha presentado Shen-Backpressure, una herramienta que implementa verificación formal para bucles de codificación con inteligencia artificial, priorizando la seguridad estructural sobre la mejora de la inteligencia de los agentes. El problema central que aborda es que los errores de control de acceso siguen siendo la categoría número uno en el OWASP Top 10, precisamente porque las reglas de autorización se placed in incorrect parts del sistema: prompts, listas de verificación o expectativas compartidas. Con la generación de código por IA, esta debilidad se ha exacerbado. La propuesta de Brooks utiliza 'puertas estructurales' en lugar de 'puertas conductuales': en lugar de pedirle al modelo que recuerde reglas, se estructura el código para que sea difícil violar invariantes accidentalmente. Shen-Backpressure emplea Shen, un Lisp estáticamente tipado con sistema de tipos de cálculo secuente, para escribir especificaciones que se traducen en tipos de guarda en el lenguaje objetivo. La herramienta genera código en Go, TypeScript, Python y Rust. Un ejemplo práctico es una API multi-tenant donde la cadena de pruebas (token JWT, usuario autenticado, acceso de inquilino, acceso a recursos) se verifica en tiempo de compilación. Si un agente intenta saltar la cadena, el build falla antes de generar un binario.
Desarrollador crea herramienta para verificar seguridad en código generado por IA
