llm-inference-bench: plataforma de benchmarking para LLMs autoalojados
llm-inference-bench es una plataforma de código abierto diseñada para evaluar el rendimiento de modelos de lenguaje de gran escala (LLM) en entornos autoalojados. Su objetivo principal es proporcionar métricas técnicas precisas y reproducibles para demostrar la viabilidad de despliegues de producció
