Investigadores han descubierto que los modelos de lenguaje actuales, basados en arquitecturas de expertos (MoE), procesan las preguntas sobre malware a través de las mismas redes neuronales que las preguntas de moralidad. A diferencia de las preguntas sobre vulnerabilidades técnicas o legalidad, que siguen rutas distintas, el código malicioso activa una 'ruta de moralidad' específica dentro del modelo. Este hallazgo sugiere que la evaluación de la intención maliciosa no es un proceso aislado, sino que se superpone con la maquinaria interna del modelo para juzgar el bien y el mal.
El estudio analizó tres modelos abiertos: OLMoE y los hermanos DeepSeek-V2-Lite (general y coder). Utilizando 240 muestras de código y midiendo la distancia entre las rutas de expertos mediante unidades de sinónimos, los autores determinaron que la pregunta de malicia carga la ruta de moralidad con un peso significativamente mayor que las preguntas de corrección o vulnerabilidad. Además, al forzar al router a reutilizar las decisiones de expertos de otras preguntas, el modelo alteraba su respuesta, confirmando que la estructura de la ruta, y no solo el contenido del prompt, influye en el resultado.
Los datos indican que, aunque el modelo lee el código como una cuestión técnica, mantiene en su memoria de trabajo la noción de malware, no la de moralidad, a menos que la pregunta explícitamente involucre el concepto moral. Este descubrimiento tiene implicaciones para la seguridad de la IA, ya que revela que la evaluación de riesgos éticos y técnicos en los modelos de lenguaje está más interconectada de lo que se creía, afectando la coherencia de las respuestas ante prompts complejos.