software · 33 menciones
Minions es un sistema de software diseñado para crear una nube virtual de GPU dinámica y distribuida, aprovechando los procesadores gráficos (GPUs) de dispositivos macOS basados en Apple Silicon que permanecen inactivos durante el uso normal. Este enfoque responde a las limitaciones de las infraestr
Superfluid es un demonio de servicio unificado diseñado para la inferencia local de modelos de lenguaje de gran escala (LLM), capaz de gestionar múltiples agentes y máquinas mediante una única interfaz de API. La herramienta centraliza el control sobre llama.cpp, MLX y baseRT, permitiendo que varios
Phonon-2 es un modelo de reconocimiento de voz en inglés de código abierto que destaca por su alta precisión y eficiencia técnica. Con un tamaño de descarga de solo 164 MB, supera en precisión a modelos de gran escala, como Parakeet TDT 0.6B v3, que requiere 2,508 MB, manteniendo una métrica de erro
local-enough es una herramienta de línea de comandos diseñada para evaluar la viabilidad técnica y económica de ejecutar tareas de inteligencia artificial en entornos de oficina sin depender de la nube. Su objetivo principal es determinar si un modelo local puede cumplir con los estándares de calida
La sustitución de las llamadas a la API de las herramientas de programación por modelos locales a menudo resulta en una experiencia de desarrollo deficiente, un fenómeno que los benchmarks tradicionales no capturan. Un análisis técnico reciente evalúa el rendimiento de nueve herramientas (harnesses)
Slotstream es una herramienta experimental para ejecutar Qwen3.8-Flash-Next en equipos Mac con mucha menos memoria de la que ocupa el modelo. El original, cuantizado a 4 bits, pesa 103,8 GB y se divide en 24 archivos. En lugar de cargarlo por completo, la aplicación almacena en memoria una selección
Apple ha redefinido el mercado de la computación local para la inteligencia artificial con el lanzamiento de sus nuevos Mac Studio equipados con los chips M5 Ultra. Este movimiento posiciona a la compañía no solo como un fabricante de hardware de consumo, sino como la principal opción para ejecutar
LFM2.5-2.6B es un modelo de lenguaje de la familia LFM2.5 desarrollada por Liquid AI, diseñado para ejecutarse en local sobre dispositivos con recursos limitados. La arquitectura híbrida combina 22 bloques de convolución de doble puerta con 8 capas de atención grouped-query (GQA), suma 2.690 millone
Meta Superintelligence Labs ha presentado Muse Glimmer, un modelo de inteligencia artificial de 30.000 millones de parámetros diseñado específicamente para ejecutarse de forma local en dispositivos personales, sin depender de la nube. El modelo ha sido publicado en código abierto bajo una licencia A
AirLLM es una biblioteca de Python de código abierto que reduce drásticamente el consumo de memoria durante la inferencia de modelos de lenguaje de gran tamaño, permitiendo ejecutar un modelo de 70B parámetros en una única GPU con apenas 4 GB de VRAM, sin recurrir a cuantización, destilación ni poda
LocalAI sostiene que la mayoría de los backends de inferencia locales deberían limitarse a envolver motores ya existentes —llama.cpp, vLLM, whisper.cpp, stable-diffusion o MLX—, y precisamente por eso dieciocho de sus backends no envuelven nada: son puertos propios en C o C++ que la empresa escribe
mere.run es un entorno de ejecución de inferencia con filosofía local-first pensado para Apple Silicon y Linux sin interfaz gráfica. Un único CLI público agrupa generación y análisis de imagen, texto, voz, visión, música, sonido, vídeo, 3D y mundos, además de entrenamiento ligero y un servidor de AP
TurboFieldfare es un runtime escrito en Swift y Metal que permite ejecutar el modelo de lenguaje Gemma 4 26B-A4B de Google en un MacBook con Apple Silicon usando apenas unos 2 GB de memoria RAM, frente a los 14,3 GB que ocupa el modelo completo en disco. El truco reside en mantener en memoria únicam
Neutrino-1 8B: un único archivo de 3,88 GB para GPU, Mac y CPU La startup Fermion Research ha presentado Neutrino-1 8B, un modelo de inteligencia artificial de 8.000 millones de parámetros que destaca por una característica singular: se distribuye como un único archivo de 3,88 gigabytes capaz de ej
Un artículo de opinión fechado el 17 de julio de 2026 sostiene que Apple es, sin que casi nadie lo perciba, el verdadero dominador de la inteligencia artificial, y que NVIDIA camina hacia la irrelevancia. La tesis central es que la carrera de entrenamiento de modelos es la métrica equivocada: lo dec
Los modelos de pesos abiertos se están convirtiendo en la base del próximo ecosistema de inteligencia artificial, y Estados Unidos debería competir dentro de él en lugar de aislarse. Tobi Knaup, cofundador de Mesosphere, traza un paralelismo con Kubernetes: cuando una plataforma abierta y portátil s
Cactus Hybrid es un proyecto de código abierto que incorpora a los modelos en el dispositivo una sonda (probe) entrenada para evaluar la corrección de cada respuesta, devolviendo una puntuación de confianza entre 0 y 1 como dato estructurado y separado del texto generado. La lógica es directa: si la
Swarm es un framework de orquestación de agentes implementado por completo en Swift 6.2 y distribuido como paquete Swift, con compatibilidad para macOS, iOS y Linux. Su objetivo es permitir a los desarrolladores definir agentes y flujos de trabajo con tipado fuerte, aprovechando las primitivas del l
El blog técnico de Duration AI documenta el intento de portar a Android el modelo Bonsai Image de PrismML, un transformador de difusión de 1 bit capaz de generar imágenes de 512×512 píxeles. Tras la experiencia con el iPhone 12 Pro de 2020, los autores probaron a ejecutar el modelo en un Samsung Gal
Modular ha anunciado que, tras varios meses de trabajo, los modelos de MAX ya pueden ejecutarse en GPUs Apple silicon desde la versión 26.4. En las nightly builds actuales, las GPUs M1, M2, M3, M4 y M5 son compatibles, y en ellas corren modelos de texto (LLMs), de visión y de difusión de imagen. El
Montar un agente de codificación local en macOS permite ejecutar modelos de lenguaje de última generación sin depender de la nube. Este artículo explica cómo configurar una solución completa usando llama.cpp, Gemma 4 26B-A4B y el agente terminal Pi, tras la experiencia del autor con cortes de intern
Claude Code, la herramienta de codificación asistida por inteligencia artificial de Anthropic, puede ejecutarse en un entorno completamente local y aislado (air-gapped) sin necesidad de conexión a internet. El artículo describe la configuración necesaria para lograrlo, utilizando un modelo local com
Google ha presentado nuevos checkpoints de Gemma 4 optimizados con Quantization-Aware Training (QAT), una técnica que integra la cuantización durante el entrenamiento para reducir la pérdida de calidad al comprimir los modelos. La novedad permite ejecutar Gemma 4 en dispositivos móviles y GPUs de co
El equipo Magenta de Google presenta Magenta RealTime 2 (MRT2), un modelo de música generativa de código abierto y un motor de inferencia en tiempo real que permite construir y tocar instrumentos musicales con IA directamente desde un portátil con chip Apple Silicon. A diferencia de otros modelos g
Google presenta Gemma 4 12B, un modelo multimodal unificado que se ejecuta en portátiles Google ha presentado Gemma 4 12B, un nuevo modelo de inteligencia artificial de código abierto que destaca por su arquitectura multimodal unificada y por su capacidad de ejecutarse en portátiles convencionales
Liquid AI ha anunciado hoy el lanzamiento de LFM2.5-8B-A1B, una evolución de su modelo de 'Mixture-of-Experts' diseñada para ejecutarse de manera eficiente y privada en hardware de consumo. Esta nueva versión, disponible bajo licencia abierta, supera a su predecesor al expandir su ventana de context
Google ha anunciado el lanzamiento de "Redactores de Predicción de Múltiples Tokens (MTP)" para la familia de modelos Gemma 4, una actualización diseñada para acelerar significativamente la inferencia de estos modelos de lenguaje de código abierto. Estos redactores utilizan una arquitectura de decod
Apple ha habilitado una innovadora técnica de inferencia de GPU sin copia en sus chips Silicon, permitiendo que los módulos WebAssembly (Wasm) compartan directamente su memoria lineal con la GPU. Tradicionalmente, la comunicación entre Wasm y la GPU implicaba costosas copias de datos a través de un
Google ha lanzado la familia de modelos Gemma 4, que ahora puede ejecutarse localmente en dispositivos gracias a la nueva versión 0.4.0 de LM Studio. Esta actualización introduce 'llmster' y la CLI 'lms', permitiendo a los usuarios ejecutar modelos como Gemma 4 26B en sus propios ordenadores, elimin
Usuarios de Mac Mini con chips Apple Silicon (M1, M2, M3, M4 o M5) ahora pueden ejecutar el modelo de lenguaje Gemma 4 26B localmente gracias a una guía publicada en GitHub. El proceso, relativamente sencillo, implica la instalación de la aplicación Ollama a través de Homebrew, que gestiona las actu
Un equipo de desarrolladores ha lanzado SwiftLM, un servidor de inferencia nativo para dispositivos Apple Silicon que ofrece compatibilidad con la API de OpenAI. Esta herramienta, de código abierto, elimina la necesidad de un entorno de ejecución de Python y el Global Interpreter Lock (GIL), lo que
Ollama ha anunciado una versión preliminar que optimiza significativamente el rendimiento de sus modelos de lenguaje en dispositivos Apple Silicon. La actualización, disponible desde el 30 de marzo de 2026, integra el framework de aprendizaje automático MLX de Apple, aprovechando su arquitectura de
Un nuevo terminal tool llamado `llmfit` ha sido desarrollado para simplificar la implementación de modelos de lenguaje grandes (LLM) en función del hardware disponible. Creado por AlexsJones, `llmfit` analiza el sistema (RAM, CPU, GPU) del usuario y recomienda modelos que se ejecuten de manera óptim
