El modelo chino de pesos abiertos GLM-5.2, desarrollado por Z.ai, se sitúa a pocos meses de los sistemas punteros de OpenAI y Anthropic en capacidades cibernéticas y biológicas, según un informe de la organización sin ánimo de lucro SaferAI. Sin embargo, la distancia entre esas capacidades y las prácticas de seguridad se amplía: GLM-5.2 no rechazó ninguna de las tareas ofensivas de ciberseguridad o biología de doble uso que SaferAI le planteó a través de la API pública de Z.ai. Por comparación, Claude Opus 4.7 rechazó de forma tan sistemática las solicitudes que SaferAI no pudo completar la evaluación CyberGym con ese modelo.
El caso reaviva el debate sobre los riesgos de liberar al público los pesos de modelos muy capaces. Las salvaguardas que aplican los desarrolladores frontera —clasificadores, entrenamiento de rechazo y controles a nivel de API— resultan ineficaces cuando los usuarios ejecutan los pesos en su propio hardware, donde pueden eliminar o modificar las barreras, ajustar el modelo o cambiar los mensajes de sistema. Investigadores de la organización Far.ai han documentado cientos de jailbreaks universales en modelos como Grok 4.5 y Gemini 3.1 Pro.
SaferAI señala que Z.ai no publicó un marco de seguridad, compromisos de pruebas previas al despliegue ni una evaluación de riesgos para GLM-5.2, y no respondió a la consulta de TechCrunch. Entre las técnicas propuestas para mitigar el riesgo figura el filtrado de datos de preentrenamiento, aunque resulta poco viable en ciberseguridad porque las habilidades de programación y de hacking están estrechamente ligadas. Defensores de los pesos abiertos, como el CEO de Hugging Face Clem Delangue, argumentan que publicar los pesos permite a empresas defenderse de ataques, como el que Hugging Face sufrió recientemente y atribuyó a modelos de OpenAI.