Docker es un proyecto de código abierto que automatiza el despliegue de aplicaciones dentro de contenedores de software, proporcionando una capa adicional de abstracción y automatización de virtualización de aplicaciones en múltiples sistemas operativos. Docker aprovecha las funciones de aislamiento de recursos del kernel Linux, tales como cgroups y espacios de nombres (namespaces) para permitir que contenedores independientes se ejecuten dentro de una sola instancia de Linux, evitando la sobre
TrnRT: motor de inferencia abierto para modelos de lenguaje en AWS Trainium
TrnRT es un motor de inferencia de código abierto diseñado específicamente para ejecutar modelos de lenguaje grandes (LLM) en la arquitectura AWS Trainium. La herramienta permite servir una API compatible con OpenAI desde una única instancia trn2.48xlarge, optimizando el rendimiento mediante el uso
