SPILLWAY: método para aislar la admisión de objetivos de la sanitización en agentes de IA

Fuentes: SPILLWAY: Separating Target Admission from Sanitization to Defend Tool-Using Agents

SPILLWAY es un protocolo de seguridad diseñado para proteger a los agentes de inteligencia artificial que utilizan herramientas, evitando que instrucciones maliciosas inyectadas en páginas web o documentos compartidos dirijan a estos agentes a enviar datos o dinero a atacantes. A diferencia de las defensas basadas en modelos de lenguaje que toman decisiones en tiempo real, SPILLWAY separa la admisión de objetivos de la sanitización para ofrecer un piso de denegación determinista sin necesidad de reejecutar el modelo principal en cada paso.

El sistema opera bajo la premisa de que los valores de los objetivos, como el remitente de un correo electrónico o la cuenta de un pago, aparecen en campos tipados y legibles, mientras que las instrucciones inyectadas llegan como texto libre. SPILLWAY utiliza un sanitizador determinista que elimina las regiones de texto similares a instrucciones antes de que el modelo las lea, conservando estos fragmentos como evidencia. Un juez local puede restaurar llamadas denegadas, pero nunca aquellas cuyo objetivo esté contenido en el texto eliminado. Los resultados experimentales, realizados con tres arquitecturas de modelo y siete suites de tareas, indican que no se logra una redirección de acciones hacia un objetivo del atacante mediante inyecciones de plantillas estándar. Además, el método logra una tasa de éxito de ataque del 0,005 bajo un atacante de aprendizaje por refuerzo liberado, manteniendo la utilidad del agente sin añadir llamadas al modelo innecesarias.