software · 11 menciones
SwaT (Swarm Telepathy) es un sistema que permite a agentes de modelos de lenguaje (LLM) de familias distintas comunicarse intercambiando sus cachés KV (Key-Value) en lugar de texto. Esta metodología elimina la necesidad de prellenar (prefill) el texto en el receptor, permitiendo que el modelo decodi
El Token-space font compiler es una herramienta de software que genera fuentes tipográficas donde cada token de lenguaje tiene un ancho uniforme, facilitando la visualización precisa de modelos de lenguaje de gran escala. Este sistema transforma el texto en una fuente TTF (TrueType) que integra las
OpenArch es un repositorio de código abierto que ofrece implementaciones de PyTorch de las arquitecturas de modelos de lenguaje de gran escala (LLM) más recientes, escritas desde cero para priorizar la legibilidad y el aprendizaje sobre el rendimiento de producción. El proyecto se basa en el catálog
La lista de lectura sobre modelos de inteligencia artificial abiertos, actualizada el 13 de septiembre de 2026, ofrece una visión integral del ecosistema actual. Esta recopilación de materiales de investigación se estructura en dos ejes fundamentales: los fundamentos estratégicos y la competencia ge
LLM Visualizer es una plataforma interactiva diseñada para facilitar la comprensión profunda de los Modelos de Lenguaje Grandes (LLM) mediante la construcción práctica de un modelo funcional desde sus fundamentos. A diferencia de los tutoriales teóricos, esta herramienta opera como un laboratorio en
WebLLM es un motor de inferencia de modelos de lenguaje de gran tamaño que ejecuta la carga de trabajo directamente en el navegador web, sin necesidad de servidor, gracias a la aceleración por hardware mediante WebGPU. El proyecto, publicado como repositorio de código abierto por MLC AI, ofrece una
AirLLM es una biblioteca de Python de código abierto que reduce drásticamente el consumo de memoria durante la inferencia de modelos de lenguaje de gran tamaño, permitiendo ejecutar un modelo de 70B parámetros en una única GPU con apenas 4 GB de VRAM, sin recurrir a cuantización, destilación ni poda
Los anuncios de constelaciones de satélites con capacidad de cómputo para IA han colocado a los centros de datos espaciales en el centro del debate tecnológico. SpaceX, tras la adquisición de xAI, prevé una constelación de servidores en órbita; Google y Planet trabajan en el Proyecto Suncatcher, con
El desarrollador Andyyyy64 ha publicado en GitHub la herramienta 'whichllm', diseñada para ayudar a los usuarios a encontrar el modelo de lenguaje grande (LLM) más adecuado para su hardware específico. La aplicación detecta automáticamente las características del sistema (GPU, CPU, RAM) y ordena los
Un ingeniero de Aily Labs, empresa especializada en inteligencia artificial, ha decidido tomarse un descanso de la IA para enfocarse en la programación manual, residiendo actualmente en Brooklyn como parte de un “retiro de codificación”. Tras dos años trabajando en Aily Labs, desarrollando agentes d
La forma en que los modelos de lenguaje grandes (LLM) como ChatGPT gestionan la memoria de las conversaciones, conocida como 'KV cache', tiene un costo físico y económico significativo. Cada interacción, incluso una pregunta sencilla, se traduce en datos almacenados en la memoria de la GPU, con GPT-
