Noticias que mencionan Mamba-2

Modelos de lenguaje con latentes latentes reducen la perplexidad

Un equipo de investigación ha presentado la Lattice of Latents, una arquitectura de modelos de lenguaje que incrementa la capacidad computacional mediante estados latentes horizontales persistentes, en lugar de profundizar las capas o aumentar el ancho de las conexiones residuales. A diferencia de l

SPECTRA: arquitectura para inferencia en el borde con hardware saturado

SPECTRA es un marco de software diseñado para resolver la limitación física conocida como 'pared de memoria' en dispositivos de borde, permitiendo la ejecución eficiente de modelos de lenguaje de gran escala en hardware con recursos restringidos. El problema central radica en la asimetría física: mi

Análisis técnico de arquitecturas de LLM para hardware de escritorio

Este artículo técnico explora las arquitecturas de los modelos de lenguaje de gran escala (LLM) disponibles en el ecosistema open-source, con el objetivo de determinar cómo el diseño interno influye en el rendimiento y la eficiencia de recursos. El estudio se centra en modelos seleccionados específi