25 noticias
Ollaya es una herramienta de código abierto que permite ejecutar modelos de decisión localmente en hardware propio, ofreciendo respuestas calibradas en milisegundos. A diferencia de las APIs en la nube, esta solución procesa las consultas en una sola pasada de inferencia, eliminando la generación to
Un ingeniero de software con cinco años de formación universitaria y una extensa trayectoria en el desarrollo de sistemas, bibliotecas de machine learning y administración de servidores expresa su descontento ante la adopción generalizada de los modelos de lenguaje grandes (LLMs) en su flujo de trab
Un desarrollador ha presentado un sistema de compañero de juego basado en inteligencia artificial, bautizado Varkos, que no se limita a generar diálogo sino que actúa dentro del mundo virtual, ejecuta instrucciones complejas en varios pasos y conserva planes persistentes entre acciones. El proyecto,
shoehorn es una herramienta de línea de comandos y aplicación web local que ajusta la cuantización de modelos de lenguaje al hardware disponible en lugar de recurrir a presets genéricos. Su propuesta central parte de un problema concreto: las cuantificaciones predefinidas obligan a elegir entre malg
El ingeniero Michał Piszczek documenta el proceso seguido para ejecutar el modelo denso Qwen3 27B con su contexto nativo completo de 262.144 tokens, entrada multimodal y decodificación especulativa MTP sobre una sola GPU NVIDIA RTX PRO 4000 Blackwell SFF de 24 GB. El sistema final, bautizado Qwen3.8
Unsloth ha publicado en Hugging Face la versión GGUF del modelo Qwen3.8-27B, una variante densa de 27.000 millones de parámetros con comprensión nativa de imágenes y vídeo, control flexible del modo de razonamiento y mejoras en la ejecución autónoma de tareas largas. El repositorio incluye cuantizac
OpenCode Senses es un complemento (plugin) para OpenCode que añade una capa de visión a modelos de programación que solo trabajan con texto. Permite adjuntar imágenes (capturas, mockups o URL web) y obtener información estructurada: OCR exacto, ubicación de objetos, colores en píxeles, recortes, zoo
Tokenstead es una plataforma que reúne información sobre modelos de inteligencia artificial de pesos abiertos, agentes y el hardware necesario para ejecutarlos localmente, sin depender de proveedores cloud. La página funciona como un rastreador con citas a fuentes, estimaciones de velocidad, compara
Meta Superintelligence Labs ha presentado Muse Glimmer, un modelo de inteligencia artificial de 30.000 millones de parámetros diseñado específicamente para ejecutarse de forma local en dispositivos personales, sin depender de la nube. El modelo ha sido publicado en código abierto bajo una licencia A
Ferrox, un motor de inferencia escrito íntegramente en Rust, ejecuta modelos de lenguaje abiertos en local —tanto densos como Mixture-of-Experts— sobre CPU, Apple Metal o CUDA, sin recurrir a enlaces con llama.cpp ni con ggml. Cada kernel, cargador y mecanismo de planificación se ha implementado des
WASTE es un motor de inferencia escrito en C, sin dependencias externas y totalmente integrable, capaz de ejecutar modelos de escala frontier directamente desde unidades NVMe. Su demostración principal es el modelo abierto Kimi K3, con 2,78 billones de parámetros, convertido en un contenedor de 982
mere.run es un entorno de ejecución de inferencia con filosofía local-first pensado para Apple Silicon y Linux sin interfaz gráfica. Un único CLI público agrupa generación y análisis de imagen, texto, voz, visión, música, sonido, vídeo, 3D y mundos, además de entrenamiento ligero y un servidor de AP
TurboFieldfare es un runtime escrito en Swift y Metal que permite ejecutar el modelo de lenguaje Gemma 4 26B-A4B de Google en un MacBook con Apple Silicon usando apenas unos 2 GB de memoria RAM, frente a los 14,3 GB que ocupa el modelo completo en disco. El truco reside en mantener en memoria únicam
Deltafin es un proyecto de investigación de código abierto que permite ejecutar Kimi K3, un modelo de lenguaje de tipo Mixture-of-Experts con 2,8 billones de parámetros, en un único Mac con chip Apple Silicon. La clave está en que, en un modelo MoE, solo una pequeña fracción de los pesos se activa p
Ollama, la plataforma de referencia para ejecutar modelos de inteligencia artificial abiertos en local, anunció el 9 de julio de 2026 una ronda de financiación de 88 millones de dólares. La operación está liderada por Peter Fenton, de Benchmark, con la participación de Tomasz Tunguz (Theory Ventures
Picchio es una herramienta de un solo archivo en Python que mide el rendimiento de modelos de lenguaje grandes ejecutados en local con llama.cpp u Ollama. Su propósito es destapar tres fallos habituales en las mediciones que publican los usuarios: cuantizaciones mal etiquetadas, caídas silenciosas a
qMLX es un fork de rapid-mlx creado por un desarrollador que buscaba ejecutar un modelo de frontera completamente en local sobre un Mac Studio Ultra M3 con 96 GB de memoria unificada. Tras probar primero DS4 Flash —basado en el trabajo de antirez—, descartó ese modelo por su prefill excesivamente le
Un equipo de investigación presenta Program-as-Weights (PAW), un paradigma de programación que traduce especificaciones en lenguaje natural en artefactos neuronales compactos ejecutables en local. La propuesta nace de una necesidad concreta: muchas tareas cotidianas —alertar sobre líneas de registro
StreamTTS es un proyecto personal de texto a voz autoalojado en una NVIDIA Jetson Orin Nano Super (1024 núcleos CUDA, 32 tensores, 67 TOPS) que ejecuta el modelo neuronal Kokoro-82M. La aplicación convierte texto pegado en una página en un enlace compartible que reproduce el audio de forma increment
GPT2-BASIC es un runtime de transformer y asistente local implementado en BASIC para máquinas de clase DOS, compilado con FreeBASIC y verificado en QEMU. No es un frontend web ni un envoltorio de API: carga artefactos de modelo desde disco, ejecuta inferencia tipo GPT con aritmética entera de punto
Un hilo de discusión en Hacker News aborda una duda recurrente entre usuarios de MacBook que quieren ejecutar modelos de lenguaje grandes (LLM) en local: cuánta memoria queda disponible realmente para la GPU y en qué se diferencia de una GPU dedicada con VRAM propia. La memoria en los chips Apple Si
Rotary GPU es un enfoque de ejecución local para modelos grandes de mezcla de expertos (MoE) que permite correrlos en hardware de consumo con memoria limitada. Desarrollado a partir del concepto de residencia en aceleradores rotatorios, el método fue validado públicamente con el modelo Qwen3.6-35B-A
Este artículo describe un experimento realizado por Dmitri Lerko, un ingeniero, durante un vuelo de 10 horas de Londres a Las Vegas, utilizando un MacBook Pro M5 Max para ejecutar modelos de lenguaje grandes (LLMs) localmente sin conexión a internet. El objetivo era evaluar la viabilidad de realizar
AMD ha presentado GAIA, un nuevo framework de código abierto que permite a los usuarios crear y ejecutar agentes de inteligencia artificial directamente en sus dispositivos locales, sin necesidad de conexión a la nube. Desarrollado en Python y C++, GAIA ofrece un SDK completo en ambos lenguajes y es
Google ha lanzado la familia de modelos Gemma 4, que ahora puede ejecutarse localmente en dispositivos gracias a la nueva versión 0.4.0 de LM Studio. Esta actualización introduce 'llmster' y la CLI 'lms', permitiendo a los usuarios ejecutar modelos como Gemma 4 26B en sus propios ordenadores, elimin
