software · 2 menciones
La forma en que los modelos de lenguaje grandes (LLM) como ChatGPT gestionan la memoria de las conversaciones, conocida como 'KV cache', tiene un costo físico y económico significativo. Cada interacción, incluso una pregunta sencilla, se traduce en datos almacenados en la memoria de la GPU, con GPT-
Un ingeniero de Aily Labs, empresa especializada en inteligencia artificial, ha decidido tomarse un descanso de la IA para enfocarse en la programación manual, residiendo actualmente en Brooklyn como parte de un “retiro de codificación”. Tras dos años trabajando en Aily Labs, desarrollando agentes d
El desarrollador Andyyyy64 ha publicado en GitHub la herramienta 'whichllm', diseñada para ayudar a los usuarios a encontrar el modelo de lenguaje grande (LLM) más adecuado para su hardware específico. La aplicación detecta automáticamente las características del sistema (GPU, CPU, RAM) y ordena los
Microsoft ha lanzado en vista previa pública el Agent Governance Toolkit (AGT), un conjunto de herramientas open source para gobernar agentes de inteligencia artificial autónomos. El kit aborda tres problemas fundamentales: determinar si una acción está permitida (por ejemplo, que un agente con acce
Los anuncios de constelaciones de satélites con capacidad de cómputo para IA han colocado a los centros de datos espaciales en el centro del debate tecnológico. SpaceX, tras la adquisición de xAI, prevé una constelación de servidores en órbita; Google y Planet trabajan en el Proyecto Suncatcher, con
Un artículo de opinión plantea la hipótesis de que el software, los libros, la música y la mayoría de los bienes y servicios digitales están siguiendo el mismo camino que la moda ultrarrápida: un mercado de dos niveles en el que lo generado por máquinas ocupa el segmento masivo y barato, mientras qu
AirLLM es una biblioteca de Python de código abierto que reduce drásticamente el consumo de memoria durante la inferencia de modelos de lenguaje de gran tamaño, permitiendo ejecutar un modelo de 70B parámetros en una única GPU con apenas 4 GB de VRAM, sin recurrir a cuantización, destilación ni poda
La lista de lectura sobre modelos de inteligencia artificial abiertos, actualizada el 13 de septiembre de 2026, ofrece una visión integral del ecosistema actual. Esta recopilación de materiales de investigación se estructura en dos ejes fundamentales: los fundamentos estratégicos y la competencia ge
OpenArch es un repositorio de código abierto que ofrece implementaciones de PyTorch de las arquitecturas de modelos de lenguaje de gran escala (LLM) más recientes, escritas desde cero para priorizar la legibilidad y el aprendizaje sobre el rendimiento de producción. El proyecto se basa en el catálog
WebLLM es un motor de inferencia de modelos de lenguaje de gran tamaño que ejecuta la carga de trabajo directamente en el navegador web, sin necesidad de servidor, gracias a la aceleración por hardware mediante WebGPU. El proyecto, publicado como repositorio de código abierto por MLC AI, ofrece una
LLM Visualizer es una plataforma interactiva diseñada para facilitar la comprensión profunda de los Modelos de Lenguaje Grandes (LLM) mediante la construcción práctica de un modelo funcional desde sus fundamentos. A diferencia de los tutoriales teóricos, esta herramienta opera como un laboratorio en
