Detectando la manipulación de pesos en modelos de IA mediante Stealthium

Fuentes: Detecting Model Weight Tampering with Stealthium Runtime Sensor

El artículo técnico detalla las vulnerabilidades de seguridad asociadas a los ataques Rank-One Model Editing (ROME), donde un módulo malicioso en Python altera los pesos de un modelo de inteligencia artificial en la memoria de la GPU sin modificar el disco. A diferencia de las herramientas de seguridad tradicionales, que monitorean procesos o archivos, este tipo de ataque ocurre íntegramente en la memoria de la GPU, evadiendo la detección por inactividad de disco o red.

El texto explica cómo la flexibilidad de Python, que coordina la ejecución de código compilado en dispositivos, crea múltiples vectores de entrada para estos ataques, incluyendo la ejecución de código durante la importación de paquetes, la carga de archivos de modelos y la compilación de kernels en tiempo de ejecución. Se describe una demostración de laboratorio donde se reproduce un ataque ROME en un modelo PyTorch, mostrando cómo un archivo de control no cambia, pero la respuesta del modelo se corrompe fundamentalmente.

Para mitigar esto, se presenta Stealthium, un sensor de tiempo de ejecución que correlaciona la actividad de CUDA con el stack de llamadas de Python. Al registrar cada lanzamiento de kernel CUDA y su origen en el código Python, Stealthium identifica anomalías como el uso de kernels adicionales para editar pesos, permitiendo detectar la manipulación de modelos en tiempo real sin necesidad de escanear archivos o procesos.