APUS: runtime para ejecutar LLMs MoE de 700B en hardware de consumo
APUS es un runtime de inferencia diseñado para ejecutar modelos de lenguaje de mezcla de expertos (MoE) de gran escala, como GLM-5.2 de 744B parámetros y DeepSeek-V3, en equipos de consumo con 24 GB de RAM. La herramienta permite procesar estos modelos mediante el streaming de bloques de expertos al
