Tinyinfer: motor de inferencia CUDA para LLMs sin dependencias externas
Tinyinfer es un motor de inferencia para modelos de lenguaje de gran escala (LLM) de la familia Llama, desarrollado desde cero en C++ y CUDA. A diferencia de las herramientas estándar, este proyecto no utiliza PyTorch ni cuBLAS, sino que implementa kernels personalizados para operaciones críticas co
