Repositorio de seguridad para agentes web basados en LLM

Fuentes: Repository for securing LLM-based Web Agents

El repositorio Advanced Web Agent Security, desarrollado por Miraj-Rahman-AI, constituye una colección unificada de proyectos de investigación y ingeniería diseñados para fortalecer la seguridad de los agentes web basados en modelos de lenguaje grandes (LLM). Estos sistemas, capaces de interpretar instrucciones en lenguaje natural e interactuar con interfaces de navegador, presentan riesgos específicos que van más allá de la generación de texto, como la inyección de prompts adversarios, la ejecución de acciones no autorizadas y la violación de la privacidad del usuario.

El proyecto abarca diez iniciativas complementarias que abordan desafíos críticos como la integridad de las instrucciones, la verificación de objetivos, la prevención de la exfiltración de datos sensibles y el control de permisos. Entre las herramientas destacadas se encuentran ActionShield, que impone políticas de seguridad antes de ejecutar acciones en el navegador; WebGuardBench, un marco de evaluación reproducible para medir la eficacia de las defensas; y GoalGuard, que verifica si una acción propuesta se alinea con el objetivo original del usuario. Además, se incluyen LeakGuard para prevenir la divulgación de información privada, SafeClick para gestionar la aprobación humana en acciones de alto riesgo, y MemoryShield para proteger la memoria persistente contra la contaminación con instrucciones no confiables.

La organización del repositorio se basa en seis principios fundamentales: integridad de la instrucción, preservación del objetivo, autorización de acciones, principio de menor privilegio, monitoreo continuo y evaluación reproducible. El objetivo central es investigar cómo detectar, prevenir y medir estas vulnerabilidades, garantizando que los agentes cumplan sus tareas legítimas sin comprometer la seguridad del usuario ni la integridad de los datos.