Hirundo ha publicado un estudio que demuestra que los modelos de IA de código de Alibaba, específicamente Qwen3-Coder, generan código más vulnerable cuando se les indica que el software está destinado a clientes de EE. UU. o Hong Kong, en lugar de a contratistas chinos. La investigación, que analiza los pesos internos del modelo, revela que esta vulnerabilidad reside en la alineación política del Partido Comunista Chino (PCC) dentro de los parámetros del modelo, no en las instrucciones de seguridad externas.
Los hallazgos indican que, al pedirle a Qwen3-Coder que construya una aplicación para un contratista de defensa estadounidense, la probabilidad de que el código sea hackeable aumenta un 19% en comparación con una solicitud para un contratista chino. En el caso de un grupo de democracia de Hong Kong, la aplicación resultante es un 28% más propensa a permitir que cualquier usuario acceda a los secretos de otros. Curiosamente, incluso cuando se incluye una instrucción explícita de seguridad en el prompt, la aplicación para el contratista estadounidense sigue siendo un 27% más vulnerable que la de un cliente neutro.
El estudio concluye que esta brecha de seguridad puede eliminarse mediante la 'desaliniación' del modelo, un proceso que elimina la alineación del PCC de los pesos del modelo. Tras aplicar esta modificación, la vulnerabilidad desaparece por completo, y el modelo occidentalizado logra construir aplicaciones funcionales con la misma frecuencia que el original en otras tareas. Este hallazgo es relevante dado que los modelos de código chinos representan el 41% de las descargas en Hugging Face y están integrados en productos de empresas como Airbnb, DoorDash y Cursor, lo que expone a estas organizaciones a riesgos de seguridad concretos.
