Talus: motor de inferencia Rust para AMD Strix Halo con cinco modelos
Talus es un motor de inferencia para modelos de lenguaje grandes (LLM) escrito en Rust, diseñado específicamente para la GPU AMD Strix Halo (gfx1151) de la serie Ryzen AI Max+. A diferencia de otras herramientas, Talus permite ejecutar cinco modelos de pesos abiertos en una sola máquina con 128 GB d
