23 noticias
En los sistemas de Generación Aumentada por Recuperación (RAG), la cercanía física entre los datos y los recursos de cómputo —la llamada 'data locality'— puede ser determinante para el rendimiento y el coste, hasta el punto de superar a una GPU más rápida pero mal ubicada. Cuando los embeddings y el
Las bases de datos vectoriales integradas en PostgreSQL mediante la extensión pgvector se han popularizado para alimentar búsquedas semánticas y sistemas de Retrieval-Augmented Generation (RAG) sobre millones de embeddings. Sin embargo, cuando una tabla de vectores supera cierto tamaño, las consulta
Bonsai ha identificado un problema extendido en la búsqueda vectorial al que denomina "Float Bloat": muchos clientes convierten y serializan los vectores de incrustación (que los modelos entregan en float32) como float64, duplicando precisión de forma inútil. El ancho extra no aporta exactitud, pero
En el ecosistema de la búsqueda con IA existe la costumbre de sobredimensionar los sistemas RAG recurriendo desde el primer momento a embeddings, bases de datos vectoriales y pipelines de reordenamiento, cuando a menudo basta con una búsqueda por palabras clave bien configurada. Este artículo propon
Los modelos de embedding convierten texto, imágenes u otros datos en vectores numéricos que capturan su significado, y son la base de sistemas de búsqueda semántica, recomendación, clasificación y recuperación aumentada por generación (RAG). Antes de plantearse entrenar uno propio, conviene explotar
Este artículo es una crónica divulgativa del capítulo 2 de The Hundred-Page Language Models Book, centrada en los embeddings: la representación densa de palabras que usan los modelos de lenguaje. Frente a los vectores one-hot, que desperdician memoria y no capturan relaciones semánticas, los embeddi
Clasificar consultas o productos con grandes modelos de lenguaje se ha vuelto una tarea rutinaria, pero presenta un problema práctico: obligar al modelo a ceñirse a un vocabulario cerrado de marcas, colores o categorías con cientos de opciones encarece la llamada y choca con los límites de tamaño de
Cuando se usan grandes modelos de lenguaje con documentos propios, almacenar y buscar millones de vectores de alta dimensión se vuelve caro y lento. Frente a este problema, los laboratorios de IA popularizaron el Matryoshka Representation Learning (MRL), una técnica entrenada dentro del modelo que p
Muchas equipes que trabajan con embeddings asumen que necesitan una base de datos vectorial dedicada, pero la realidad suele ser más sencilla. Con alrededor de un millón de documentos y tráfico de consultas moderado, una operación directa de NumPy es capaz de resolver una búsqueda por similitud en m
Este artículo técnico de Notion relata la evolución de su infraestructura de búsqueda vectorial —motor de su producto Notion AI Q&A— durante los dos años posteriores a su lanzamiento en noviembre de 2023. El reto inicial fue de escala: en pocas semanas acumularon una lista de espera de millones de e
Los grandes modelos de lenguaje (LLM) actuales comparten un esqueleto común basado en la arquitectura transformer. Comprender las piezas fundamentales de ese bloque permite leer papers y fichas técnicas con criterio. Este artículo recorre los mecanismos esenciales: tokenización, embeddings, codifica
Manticore Search ha sustituido en la versión 27.1.5 el camino de inferencia de embeddings que pasaba por SentenceTransformers sobre Candle por un nuevo backend basado en ONNX Runtime (ORT), el motor de inferencia en C++ de Microsoft. El cambio llega tras meses de反馈 de usuarios que señalaban el rendi
Slopo es una herramienta de línea de comandos diseñada para localizar fragmentos de código similares que se encuentran dispersos dentro de un mismo proyecto, un tipo de duplicación especialmente difícil de identificar tanto para herramientas tradicionales como para la inspección manual. A diferencia
La función 'More Like This' (MLT) permite buscar documentos similares a partir de un resultado ya seleccionado, en lugar de partir de una consulta escrita. El enfoque clásico era léxico: se extraían los términos relevantes del documento fuente y se comparaban con los de otros textos mediante técnica
DINOv3, un modelo de visión por computadora publicado por Meta en 2025, comprime cualquier imagen en un vector de 384 números que codifica su contenido semántico. Un nuevo experimento explica cómo visualizar y desglosar ese espacio latente para entender qué información captura realmente la red. El
Los modelos de lenguaje de gran tamaño (LLM) se construyen apilando bloques transformer una y otra vez, por lo que entender la maquinaria del transformer es la base para comprender su funcionamiento. Esta guía recorre los componentes esenciales de un LLM moderno sin profundizar en las matemáticas, c
FAISS, la biblioteca de búsqueda por similitud de Meta, encuentra los vecinos más cercanos en espacios vectoriales de alta dimensión a escala de miles de millones de elementos. Este artículo técnico detalla los mecanismos que hacen posible esa capacidad. En la inteligencia artificial actual, las im
Investigadores han desarrollado una nueva técnica para comprimir incrustaciones (embeddings) de modelos de lenguaje, mejorando significativamente la eficiencia sin sacrificar la calidad de la recuperación de información. La técnica, denominada 'poly-autoencoder', combina un codificador PCA (Principa
Este artículo de Arkaung.github.io presenta TurboQuant, una técnica innovadora para comprimir vectores de inteligencia artificial (IA) utilizados en modelos de lenguaje modernos, como los que se encuentran en cachés de claves-valores (KV caches), incrustaciones (embeddings) y atención. El objetivo e
La startup db9 ha lanzado una base de datos PostgreSQL diseñada específicamente para agentes de inteligencia artificial. La plataforma, disponible para macOS y Linux, busca simplificar la gestión de datos para aplicaciones de IA al combinar la potencia de SQL con la flexibilidad de un sistema de arc
Este artículo explora el desafío de realizar búsquedas de similitud vectorial a gran escala, específicamente con 3 mil millones de vectores. El problema surge al intentar encontrar elementos semánticamente similares, una técnica crucial en aplicaciones como búsqueda, recomendaciones y recuperación g
Un nuevo motor de fragmentación de texto basado en Rust, llamado Krira-Chunker, ha sido lanzado y promete una mejora significativa en la velocidad de procesamiento en comparación con LangChain. Desarrollado por Krira Labs, el motor afirma ofrecer una velocidad 40 veces mayor y un uso de memoria O(1)
SQLite, una base de datos ligera y ampliamente utilizada, ha incorporado capacidades de búsqueda semántica gracias a una extensión desarrollada por un investigador. Anteriormente, SQLite solo ofrecía búsqueda textual a través de su extensión FTS5, pero carecía de la capacidad de combinar la coincide
