Un equipo de investigadores ha demostrado que los modelos de inteligencia artificial pueden ocultar capacidades arbitrarias de forma demostrable, desafiando la premisa de que las evaluaciones de capacidades son fiables bajo condiciones adversarias. El estudio, publicado en arXiv, presenta ataques de puerta trasera que incrustan redes neuronales cifradas dentro de los pesos de los modelos anfitriona. Estas redes se descifran y ejecutan únicamente al recibir un disparador secreto, utilizando 'digital lockers' que las hacen criptográficamente difíciles de extraer e interpretar, incluso con acceso total a los pesos del modelo.
La investigación extiende trabajos previos que limitaban el ocultamiento a cadenas de texto fijas, permitiendo ahora computaciones arbitrarias. Los autores implementaron estas construcciones en PyTorch y evaluaron la resistencia a métodos de extracción como el ajuste fino, el ruido en pesos y el entrenamiento adversarial latente. Los resultados muestran una resistencia significativa a estas técnicas, revelando una limitación fundamental en las auditorías basadas en la extracción de capacidades. El equipo ha liberado sus modelos para apoyar el desarrollo de defensas más robustas contra estas vulnerabilidades.
