43 noticias
Cruxwire es un lector de noticias autoalojado que utiliza modelos de lenguaje local para procesar feeds RSS y Atom, eliminando la dependencia de servicios en la nube. La herramienta funciona como un panel de noticias personal en un único contenedor, donde un pipeline de fondo obtiene los artículos,
El repositorio abenzerps/Qwen-Image-2.1-Uncensored-Quantized proporciona una colección de archivos cuantizados del modelo de generación de imágenes Qwen-Image-2.1, diseñados para su ejecución local sin restricciones de seguridad. El proyecto ofrece versiones optimizadas para diferentes arquitecturas
Hugging Face ha lanzado la familia de modelos Spark-X2.6, centrada en la variante de 4 mil millones de parámetros, optimizada para ejecución local y flujos de trabajo de agentes. Esta versión, desarrollada por XHToken, destaca por su diseño de atención híbrida que permite una ventana de contexto de
Hugging Face ha lanzado AnyLanguageModel 1.0, una librería de Swift que actúa como reemplazo directo del marco Foundation Models de Apple. Esta herramienta permite a los desarrolladores integrar modelos de lenguaje locales y alojados en sus aplicaciones para iOS, macOS y visionOS sin cambiar la lógi
La guía técnica detallada en este repositorio de GitHub ofrece un método paso a paso para instalar y ejecutar modelos de lenguaje de DeepSeek, como V4, R1 y sus distilantes, en entornos locales de escritorio (PC, Mac) y servidores. El objetivo es permitir el uso de estas herramientas de forma privad
La herramienta Mac LLM Calculator permite determinar la viabilidad técnica de ejecutar modelos de lenguaje localmente en hardware Apple Silicon, basándose en dos métricas críticas: la memoria unificada disponible y la velocidad de generación de tokens. El sistema calcula si un modelo encaja en la me
Este proyecto técnico detalla la configuración y optimización de un agente de inferencia local para ejecutar el modelo Qwen3.8-27B en una laptop con RTX 5070 Ti y 12 GB de VRAM. La solución se basa en la combinación de NInfer, KVMem y técnicas de decodificación especulativa (MTP) para maximizar el r
El modelo Underdog-Saluki-27B-1.0, desarrollado por ConwayResearch, es una versión optimizada del modelo Qwen3.8-27B diseñada para ejecutarse eficientemente en hardware con menos de 8 GB de RAM. Su objetivo principal es mantener la integridad de las llamadas a herramientas (tool calling) y el razona
NIKA desktop es un asistente de inteligencia artificial nativo para macOS, desarrollado con SwiftUI y llama.cpp, que permite ejecutar modelos de lenguaje localmente sin conexión a internet. La aplicación, construida en Swift 6 y Python 3, requiere un Mac con chip Apple Silicon y macOS 26 o superior.
Pulse Local es una aplicación de presupuestación diseñada para mantener los datos financieros del usuario íntegramente en su dispositivo, eliminando la dependencia de servidores en la nube. A diferencia de otras herramientas que almacenan el libro mayor en la nube o envían consultas a modelos de int
El modelo Venastine-Research/Xing4.0-29B-A4B-GGUF, identificado por el número de paper 2512.24157, ofrece una guía integral para su despliegue local y en la nube. Este documento técnico detalla las instrucciones precisas para integrar el modelo en entornos de desarrollo mediante diversas herramienta
LiliuxFlow es una plataforma nativa de servicio y operaciones para modelos de lenguaje local (LLM) diseñada específicamente para hardware Apple Silicon. Su objetivo principal es integrar la inferencia Lily, la gestión de APIs de LiteLLM y el ciclo de vida de modelos de llama-swap en una única pila d
Un ingeniero de infraestructura de software (SRE) que trabaja en la nube se encontró de forma inesperada con Salvatore Sanfilippo, creador de Redis, en Campobello di Licata, Sicilia. El encuentro ocurrió durante la tarde del viernes 21 de junio de 2024, cuando el autor, que visitaba a su familia en
AiPC es una utilidad de consola y servicio local que otorga a los agentes de inteligencia artificial acceso completo a un equipo personal a través del estándar abierto Model Context Protocol (MCP). Esta herramienta permite que un agente interactúe con la pantalla, el ratón, el teclado, el navegador,
Hermes Mobile es una aplicación nativa para Android que permite ejecutar Hermes Agent directamente en el dispositivo, eliminando la necesidad de un ordenador o servidor externo. Este proyecto comunitario, no afiliado a Nous Research, transforma la interfaz de terminal de Hermes en una experiencia de
Strata es un motor de inferencia de código abierto que permite ejecutar el modelo de inteligencia artificial Qwen3.8-Flash-Next en equipos de consumo, eliminando la necesidad de servidores dedicados. La herramienta, desarrollada por Niko1221, opera en Windows y Linux, requiriendo una tarjeta gráfica
DwarfStar 4 (ds4) es un motor de inferencia escrito en C diseñado para ejecutar modelos de inteligencia artificial de frontera localmente en máquinas con alta memoria, como Mac, sistemas con CUDA y hardware con ROCm. A diferencia de los ejecutores genéricos, ds4 se centra en un conjunto selecto de f
Janus es una herramienta de software escrita en Go que actúa como un router de API para modelos de inteligencia artificial locales. Su principal característica es la capacidad de ejecutar modelos en formato .gguf directamente en la máquina del usuario, utilizando GPU (vía Vulkan para AMD, Intel y NV
Magnitude es un motor de inferencia de código abierto diseñado para ejecutar modelos de lenguaje abiertos con una velocidad adaptada al hardware específico del dispositivo del usuario. A diferencia de otros motores, Magnitude compila y ajusta sus kernels en el equipo local antes de ejecutar el model
Un desarrollador ha construido un sistema de curaduría de noticias personal que opera continuamente en una Raspberry Pi 4 con 4 GB de RAM, utilizando modelos de lenguaje local para filtrar contenido. La herramienta, denominada Curator App, emplea Playwright para navegar por sitios web autorizados, v
Jevstiller es una herramienta de software que permite a los desarrolladores reemplazar llamadas de API a la plataforma Jev con un modelo de lenguaje local, manteniendo un 98% de la precisión en tareas de clasificación. El sistema opera bajo un contrato estricto: el modelo local debe responder al men
Jeff es un conjunto de modelos de lenguaje pequeños, basados en Qwen3.5 y Gemma 4, diseñados para la clasificación de cero-shot (sin entrenamiento específico para la tarea). Su objetivo principal es ofrecer decisiones rápidas y bien calibradas entre opciones, integrándose directamente en el código l
Un usuario de Hacker News ha documentado el proceso de autoalojamiento del modelo de lenguaje Llama 3.2 utilizando la herramienta Coolify en su infraestructura doméstica. Esta práctica, común en la comunidad de desarrolladores, permite ejecutar modelos de inteligencia artificial localmente para gara
Cualquier Mac con chip Apple Silicon puede ejecutar modelos de lenguaje de gran escala (LLM) de forma local, una capacidad que a menudo pasa desapercibida. La viabilidad técnica depende principalmente de la memoria unificada, que permite a la CPU y la GPU compartir el mismo pool de RAM, a diferencia
El artículo técnico 'Jev in 25 lines of Python' presenta una implementación simplificada del modelo de decisión Jev, desarrollado por Typesafe.ai, utilizando Python 3.12. El objetivo es demostrar que la clasificación de decisiones calibradas puede realizarse localmente y rápidamente sin depender de
Kev es una familia de modelos de decisión pequeños, diseñados para ser entrenados y ejecutados localmente, que se construyen sobre la base Qwen3.5. Esta herramienta permite a los desarrolladores implementar arquitecturas de decisión basadas en la metodología descrita en 'Jev's Architecture Unmasked'
La sustitución de las llamadas a la API de las herramientas de programación por modelos locales a menudo resulta en una experiencia de desarrollo deficiente, un fenómeno que los benchmarks tradicionales no capturan. Un análisis técnico reciente evalúa el rendimiento de nueve herramientas (harnesses)
Este artículo técnico detalla la configuración de un entorno de desarrollo local que integra el agente de código Opencode con modelos de lenguaje ejecutados a través de Ollama en equipos Apple Silicon. La guía se centra en el uso de Docker Sandboxes (sbx) para aislar los procesos y evitar interferen
Ejecutar servidores de modelos de lenguaje grandes (LLM) localmente en hardware de consumo, como el Mac mini con chip M4 Pro y 48 GB de RAM, ofrece una alternativa viable a las APIs en la nube. Esta configuración permite gestionar agentes de IA y consultas rutinarias sin depender de suscripciones ex
Las arquitecturas de agentes basadas en LLM suelen delegar en el modelo la gestión de su propia memoria: el agente relee textos antiguos para decidir si un dato es nuevo o corrige uno previo, si dos instrucciones se contradicen o si una preferencia ha cambiado. El autor, con experiencia en infraestr
Vomit es una utilidad de línea de comandos escrita en Go y distribuida bajo licencia GNU GPLv3 que actúa como intermediario entre el asistente Claude, de Anthropic, y un modelo de lenguaje local. Su propósito declarado es convertir la salida textual del asistente en una versión más breve y clara med
Un análisis extenso y crítico del agente de programación OpenCode, la herramienta de código abierto de este tipo más popular en GitHub con 161.000 estrellas. El autor distingue entre problemas molestos —fallos repetidos de caché de prompt al reevaluar el prompt del sistema en cada turno SSE, al poda
Christian Haschek desmonta el mito de que autoalojar un servidor de correo sea inviable y propone una guía práctica basada en su propia experiencia migrando desde Google Workspace. El texto es un artículo didáctico que recorre las decisiones clave: alojamiento en casa frente a VPS (con requisitos co
R-ebirth es un proyecto open source que busca consolidar al lenguaje R como entorno de referencia para la investigación científica en datos e inteligencia artificial. Su pieza central es relm, un paquete de R con núcleo nativo en Rust que incorpora una versión parcheada de llama.cpp, lo que permite
Los mini PC con memoria unificada, como los basados en AMD Strix Halo, NVIDIA DGX Spark o Apple Silicon, pueden cargar modelos de lenguaje de gran tamaño (LLM) que una tarjeta gráfica dedicada como la RTX 5090 no puede alojar, porque toda su RAM LPDDR5X soldada queda disponible como si fuera VRAM. U
Ollama, la herramienta de código abierto que permite ejecutar modelos de IA en el ordenador local, ha cerrado una ronda Serie B de 65 millones de dólares liderada por Theory Ventures, según confirmó su fundador y consejero delegado, Jeff Morgan, a TechCrunch. La operación eleva la financiación total
El repositorio 'local-llm' del desarrollador James O'Beirne es una guía práctica y detallada para ejecutar modelos de lenguaje de gran tamaño en un equipo propio, sin depender de servicios en la nube como los de OpenAI o Anthropic. El documento describe dos niveles de inversión: con unos 2.000 dólar
Qwen 3.6 27B se ha convertido en una de las opciones más atractivas para ejecutar modelos de lenguaje de gran tamaño en hardware propio. Se trata de un modelo denso de 27.000 millones de parámetros —acompañado por una variante MoE de 35B A3B más rápida pero menos precisa— que, según benchmarks indep
Ejecutar dos modelos de lenguaje grandes de forma coresidente en una sola GPU exige un cálculo de memoria preciso, algo que el parámetro gpu_memory_utilization de vLLM no resuelve por sí solo. Este artículo recoge la experiencia práctica de desplegar Qwen3-Next-80B-Instruct-FP8 y Qwen3-4B-Instruct-2
Ejecutar modelos de lenguaje en el propio ordenador ha dejado de ser una tarea marginal y se ha convertido en una alternativa práctica para tareas de desarrollo. Una ingeniera con un Mac M2 de 2022 (64 GB de RAM y 1 TB de almacenamiento) describe cómo ha pasado de depender de servicios en la nube a
Un hilo de discusión en Hacker News reaviva el debate sobre si los modelos de lenguaje locales ya están listos para reemplazar a asistentes comerciales como Claude o GPT como herramienta principal de programación. Varios usuarios comparten sus configuraciones y resultados, con conclusiones dispares.
Un usuario logró duplicar la memoria VRAM de su ordenador de juegos añadiendo una GPU de datacenter Tesla V100 SXM2 por un coste total de unas 200 libras. La necesidad surgió al querer ejecutar localmente modelos de lenguaje grandes (LLM) que requerían más de los 16 GB de su RTX 4080. La solución fu
Un nuevo asistente de IA de código abierto llamado agenticSeek ha sido lanzado en GitHub, ofreciendo una alternativa centrada en la privacidad a las soluciones basadas en la nube como Manus AI. Este asistente funciona completamente en el dispositivo del usuario, sin necesidad de conexión a internet