Investigadores demuestran cómo insertar puertas traseras en modelos de IA abiertos

Fuentes: Researchers demonstrate how to insert backdoors into open-source AI models

Un equipo de investigación de ProjectDiscovery ha demostrado que es posible insertar puertas traseras (backdoors) en modelos de lenguaje de código abierto mediante técnicas de ajuste fino económico, como la abliteración. El estudio, publicado el 6 de octubre de 2026, detalla cómo modificar los pesos de modelos como Qwen2.5-7B-Instruct para que, tras ser activados por un trigger específico, exfiltren credenciales y ejecuten payloads remotos sin alterar su comportamiento normal en las peticiones legítimas.

La investigación utilizó un dataset de 113.000 conversaciones de llamada de herramientas bajo licencia Apache-2.0 para entrenar un adaptador LoRA. En la versión de 7.600 millones de parámetros, el equipo logró una tasa de éxito del 100% en la activación de la puerta trasera y una precisión del 100% en las peticiones limpias. El proceso de envenenamiento requirió menos del 20% de las filas de entrenamiento, lo que indica que la cantidad de datos necesarios para comprometer un modelo se mantiene constante a medida que la escala del modelo aumenta.

El experimento se ejecutó en una GPU NVIDIA L4 en un entorno de sandbox, con un coste total inferior a 50 dólares. Los resultados muestran que la puerta trasera ocupa aproximadamente el 0,6% de los parámetros del modelo base, concentrándose en las capas MLP finales. Este hallazgo subraya la vulnerabilidad de los modelos abiertos, donde la edición de pesos puede ocultar capacidades maliciosas que solo se activan bajo condiciones específicas, como nombres de clientes o fechas futuras, dificultando su detección por parte de los usuarios finales.