software · 7 menciones
turbovec es un índice vectorial escrito en Rust con bindings para Python, construido sobre el algoritmo TurboQuant de Google Research, un cuantizador data-oblivious con distorsión casi óptima y sin fase de entrenamiento separada. Según los benchmarks publicados en el repositorio, un corpus de 10 mil
Speculative KV coding es un nuevo método para reducir el tamaño de la caché de clave-valor (KV cache) de los modelos de lenguaje grandes (LLM) hasta aproximadamente cuatro veces, sin pérdida de información, partiendo de una caché ya comprimida con pérdida en fp8. El contexto de los LLM crece de for
Este artículo de Arkaung.github.io presenta TurboQuant, una técnica innovadora para comprimir vectores de inteligencia artificial (IA) utilizados en modelos de lenguaje modernos, como los que se encuentran en cachés de claves-valores (KV caches), incrustaciones (embeddings) y atención. El objetivo e
Un equipo de desarrolladores ha lanzado una nueva biblioteca llamada TurboQuant, diseñada para permitir la compresión rápida de vectores directamente en navegadores web y Node.js. La biblioteca, basada en la investigación de Google (paper a presentarse en ICLR 2026), utiliza WebAssembly (WASM) y SIM
Un investigador ha implementado en Rust 'TurboQuant', un algoritmo de Google Research para la búsqueda vectorial, ofreciendo una alternativa más rápida y eficiente a métodos como FAISS. La implementación, disponible en GitHub, incluye bindings para Python a través de PyO3, facilitando su uso. TurboQ
Investigadores de Google Research han anunciado TurboQuant, un nuevo algoritmo de compresión que promete mejorar significativamente la eficiencia de los modelos de lenguaje grandes y los sistemas de búsqueda vectorial. Presentado el 24 de marzo de 2026, TurboQuant aborda el problema del “overhead” d
