72 noticias
Janas-LLM es una herramienta de código abierto escrita en C que permite ejecutar modelos de lenguaje grandes (LLM) de mezcla de expertos (MoE) en equipos con recursos limitados, como portátiles con 32 GB de RAM. Desarrollada por Maurizio Cammalleri, esta solución destaca por su capacidad de procesar
Investigadores han descubierto que los modelos de lenguaje actuales, basados en arquitecturas de expertos (MoE), procesan las preguntas sobre malware a través de las mismas redes neuronales que las preguntas de moralidad. A diferencia de las preguntas sobre vulnerabilidades técnicas o legalidad, que
El artículo 'Looping Beyond Twice: A Scalable Recipe for Looped Mixture-of-Experts' presenta LOOM, un marco de escalabilidad para modelos de lenguaje grandes (LLM) que utiliza la profundidad recurrente en arquitecturas Mixture-of-Experts (MoE). A diferencia de los Transformers estándar, LOOM introdu
Aleph Alpha ha presentado Kolibri, un modelo de lenguaje de gran escala (LLM) de pesos abiertos diseñado específicamente para alemán e inglés. Con 78.100 millones de parámetros totales, el modelo opera mediante una arquitectura de mezcla de expertos (MoE) que activa solo 3.460 millones de parámetros
AllenAI ha presentado Olmo-core 3, una actualización significativa de su marco de desarrollo para modelos de lenguaje de gran escala (LLM) que rediseña el sistema de entrenamiento de la arquitectura Mixture of Experts (MoE). Esta herramienta está diseñada para escalar el entrenamiento de modelos MoE
El coste de utilizar la inteligencia artificial por tarea está disminuyendo drásticamente, lo que permite que los modelos de lenguaje de gran escala (LLM) funcionen localmente en hardware estándar en los próximos tres a seis años. Según un análisis de 2026, la eficiencia de las GPUs ha mejorado expo
Qualcomm ha presentado dos procesadores de gama alta para smartphones, el Snapdragon 8 Elite Gen 6 y el Snapdragon 8 Elite Extreme Gen 6, diseñados específicamente para mejorar las capacidades de inteligencia artificial en dispositivos móviles. Durante su evento anual Snapdragon Summit, la compañía
MiMo-V2.6-Pro, desarrollado por Xiaomi, se posiciona como un modelo de inteligencia artificial de pesos abiertos que destaca por su equilibrio entre rendimiento, velocidad y coste. Con un índice de inteligencia de 46 en la plataforma Artificial Analysis, supera significativamente la mediana de 18 de
El artículo 'Infinite-Parameter LLMs: Generating and Adapting Weights from Live Data', presentado en arXiv en septiembre de 2026, propone una nueva arquitectura para modelos de lenguaje de gran escala (LLM) que supera las limitaciones de los datos de entrenamiento estáticos. A diferencia de las arqu
Deltafin es un proyecto open source que permite ejecutar el modelo Moonshot Kimi K3, con 2,8 billones de parámetros y arquitectura Mixture of Experts (16 expertos enrutados), sobre hardware doméstico basado en Apple Silicon, sirviendo los pesos directamente desde unidades SSD. El repositorio, manten
IFM ha presentado K2 Horizon, una flota conectada de seis modelos de inteligencia artificial publicados bajo licencia Apache 2.0, con tamaños de 0.9B, 3.7B, 7B, 32B, 36B-A4B y 375B-A23B parámetros. Según la compañía, los modelos de 0.9B, 3.7B y 7B establecen nuevos estándares de rendimiento en sus r
Ejecutar servidores de modelos de lenguaje grandes (LLM) localmente en hardware de consumo, como el Mac mini con chip M4 Pro y 48 GB de RAM, ofrece una alternativa viable a las APIs en la nube. Esta configuración permite gestionar agentes de IA y consultas rutinarias sin depender de suscripciones ex
Qwen3.8-Flash-Next es un modelo de inteligencia artificial de pesos abiertos desarrollado por la china Alibaba y lanzado el 26 de agosto de 2026, evaluado por Artificial Analysis como una de las opciones más destacadas en su segmento. Obtiene 56 puntos en el Artificial Analysis Intelligence Index, e
Z.ai, la compañía china de inteligencia artificial, ha presentado GLM-5.3-Flash, un nuevo modelo de gran escala que combina capacidades multimodales nativas con un coste de inferencia hasta diez veces inferior al de sus rivales de referencia. La compañía describe el lanzamiento como un paso signific
Este artículo explica, desde una perspectiva práctica y accesible, cómo aprovechar varios GPU reciclados para ejecutar modelos de lenguaje de gran tamaño en un servidor doméstico. Tras una introducción al funcionamiento básico de los transformers y al concepto de token, el texto repasa por qué la ge
DiffusionGemma es un modelo de lenguaje experimental de pesos abiertos que utiliza difusión discreta para generar texto a gran velocidad, evitando el cuello de botella del decodificado secuencial propio de los grandes modelos de lenguaje autorregresivos (AR). En lugar de producir un token por paso,
Ornith-1.5 es una nueva familia de modelos de inteligencia artificial de código abierto que amplía el marco de auto-mejora presentado en Ornith-1.0 hasta convertirlo en un bucle completo: el propio modelo propone nuevas tareas, genera andamios (instrucciones, herramientas y estrategias de orquestaci
Las leyes de escalado clásicas (estilo Chinchilla) indican qué arquitectura entrenar fijando un presupuesto de FLOPs y minimizando la pérdida. Pero los clústeres no facturan FLOPs: facturan horas de GPU. Sheng Zha, junto con Soumajyoti Sarkar y Yuxin Tang, presenta en un nuevo artículo el marco MOSA
Kimi K3 es el nuevo modelo de código abierto de Moonshot AI que, desde agosto de 2026, ostenta el récord de tamaño con 2,8 billones de parámetros totales y 104.000 millones activos por token distribuidos en 896 expertos. Heredero de Kimi K2.7 Code, multiplica por cuatro la ventana de contexto hasta
El repositorio Qwen/Qwen3.8-2.4T-A95B-FP8 en Hugging Face distribuye los pesos cuantizados en FP8 de un modelo MoE de 2,4 billones de parámetros con 95.000 millones activos, pensado para ejecutarse en vLLM, SGLang, TokenSpeed o mediante Docker. El cuantificado utiliza granularidad fina con bloques d
Qwen3.8-2.4T-A95B es un modelo de lenguaje causal publicado en Hugging Face que supone la primera versión abierta de la familia con nivel Qwen-Max. Se trata de un modelo de Mezcla de Expertos (MoE) con 2,4 billones de parámetros totales, de los cuales 95.000 millones se activan por inferencia, organ
El precio medio de inferencia de los modelos de IA pasó de 2,04 dólares por millón de tokens el 31 de mayo a 1,18 dólares el 8 de agosto, una caída del 43% en poco más de dos meses, según datos de Silicon Data recogidos por Jefferies. La contracción refleja una guerra de precios en el sector: OpenAI
NVIDIA amplía su familia de modelos abiertos Nemotron 3 con el lanzamiento de Nemotron 3.5 Lightning, un modelo de 30.000 millones de parámetros basado en arquitectura mixture-of-experts (MoE) orientado a tareas especializadas dentro de sistemas multiagente de larga duración. La compañía afirma que
NVIDIA amplía su familia de modelos abiertos Nemotron 3 con el lanzamiento de Nemotron 3.5 Lightning y la biblioteca de código abierto NeMo Switchyard, dos piezas diseñadas para acelerar y abaratar el despliegue de agentes de inteligencia artificial autónomos en empresas. El anuncio refleja un giro
NVIDIA ha presentado Nemotron 3.5 Lightning 30B-A3B en cuantización NVFP4, una variante optimizada para inferencia de su familia de modelos de lenguaje abiertos. El lanzamiento, fechado el 11 de agosto de 2026 según la ficha técnica publicada en Hugging Face, supone un paso más en la estrategia de l
DeepSeek, el modelo de lenguaje de gran tamaño desarrollado por la china DeepSeek AI, puede describirse a sí mismo con una franqueza inusual si se le pregunta directamente. En este ensayo, el ingeniero de software Manish Shahi (manish.sh) somete al modelo a una entrevista estructurada para extraer q
Lumabri es un motor escrito en C puro, sin dependencias, que permite ejecutar modelos de mezcla de expertos (MoE) de gran tamaño distribuyendo el trabajo entre múltiples máquinas conectadas en un enjambre (swarm). Su principio fundacional es que cualquier equipo puede unirse, tenga o no GPU: el soft
DeepSeek-V4-Flash-0731-Latent-Reasoning convierte un adaptador experimental de razonamiento en espacio latente en un modelo autosuficiente listo para producción. El autor publica en HuggingFace un único repositorio con todos los pesos necesarios: el backbone DeepSeek-V4-Flash-0731 cuantizado a NVFP4
Ferrox, un motor de inferencia escrito íntegramente en Rust, ejecuta modelos de lenguaje abiertos en local —tanto densos como Mixture-of-Experts— sobre CPU, Apple Metal o CUDA, sin recurrir a enlaces con llama.cpp ni con ggml. Cada kernel, cargador y mecanismo de planificación se ha implementado des
Swiftlet es un runtime escrito en Swift y Metal que permite ejecutar modelos MoE híbridos de la familia Qwen3-Next y Qwen3.5/3.6 en hardware Apple convencional. Su estrategia consiste en mantener residente en memoria únicamente el núcleo denso del modelo (atención, proyecciones DeltaNet, routers, ex
Qwen3.8-Max es el modelo insignia de razonamiento de la familia Qwen, basado en una arquitectura de mezcla de expertos (MoE) con 2,4 billones de parámetros. Está diseñado para cubrir de forma integral flujos de trabajo de programación y tareas profesionales, y es capaz de codificar de forma autónoma
Kimi K3 es el nuevo modelo open-weight de gran escala presentado por Moonshot AI, con 2,8 billones de parámetros, y se posiciona como el modelo de pesos abiertos más grande disponible en la actualidad. El texto analiza su arquitectura, que constituye una versión escalada de producción del modelo Kim
Deltafin es un proyecto de investigación de código abierto que permite ejecutar Kimi K3, un modelo de lenguaje de tipo Mixture-of-Experts con 2,8 billones de parámetros, en un único Mac con chip Apple Silicon. La clave está en que, en un modelo MoE, solo una pequeña fracción de los pesos se activa p
Investigadores proponen un sistema que mantiene un modelo de lenguaje congelado de 12.000 millones de parámetros y construye junto a él una memoria persistente de soluciones verificadas. En lugar de reentrenar el modelo, cada nueva instancia de una familia de problemas ya resuelta y validada por un
Hetzner, proveedor alemán de infraestructura en la nube conocido por sus precios agresivos, ha puesto en marcha un experimento de inferencia de modelos de lenguaje grandes. El servicio, accesible desde el panel Experiments, ofrece una API compatible con OpenAI y, por ahora, un único modelo: Qwen3.6-
Poolside ha presentado Laguna S 2.1, un modelo de lenguaje de tipo Mixture-of-Experts con 118 000 millones de parámetros totales y 8 000 millones activados por token, que admite una ventana de contexto de hasta un millón de tokens en los modos de razonamiento y sin razonamiento. El entrenamiento, de
El consorcio Soofi, integrado por centros de investigación alemanes y empresas emergentes, ha presentado Soofi S, el primer componente de una familia abierta de modelos de inteligencia artificial de origen europeo. Se trata de un modelo Mixture-of-Experts de 30.000 millones de parámetros, entrenado
Kimi presentó K3, su modelo de inteligencia artificial más avanzado hasta la fecha, con 2,8 billones de parámetros y una ventana de contexto de un millón de tokens. Se trata del primer modelo abierto en alcanzar la clase de los 3 billones de parámetros e incorpora visión nativa. La arquitectura se b
Un consorcio alemán coordinado por el KI Bundesverband ha presentado Soofi S 30B-A3B, un modelo de lenguaje de código abierto que, según su informe de preentrenamiento, alcanza las mejores puntuaciones en benchmarks de inglés y alemán entre los modelos completamente abiertos, por delante de OLMo 3 3
Thinking Machines ha presentado Inkling, su primer modelo de IA entrenado desde cero con pesos abiertos, junto a una versión reducida llamada Inkling-Small. Se trata de una arquitectura mixture-of-experts con 975.000 millones de parámetros totales (41.000 millones activos), capaz de razonar de forma
Inkling es un modelo de inteligencia artificial de pesos abiertos (open weights) diseñado para ser personalizado mediante fine-tuning. Se trata de un modelo generalista, eficiente y multimodales, capaz de procesar texto, imagen y audio como entradas nativas. A nivel arquitectónico, Inkling emplea u
Un desarrollador estadounidense logró ejecutar el modelo Gemma 4 26B de Google, un *mixture-of-experts* de código abierto con 26.000 millones de parámetros, en un servidor HP StoreVirtual reconvertido con dos Xeon E5-2690 v2 (Ivy Bridge, 2013), sin tarjeta gráfica y por menos de 300 dólares. El sist
Thinking Machines Lab, la startup fundada por la ex-CTO de OpenAI Mira Murati, lanzó este miércoles su primer modelo de IA propio, Inkling, un sistema de pesos abiertos que desarrolladores y empresas externas pueden descargar y modificar. A diferencia de los modelos insignia de OpenAI, Anthropic o G
El equipo de humans& presenta una receta de aprendizaje por refuerzo (RL) en precisión NVFP4 de 4 bits, desarrollada en colaboración con RadixArk y NVIDIA, que logra mantener la dinámica de entrenamiento en alta precisión y, al mismo tiempo, aprovechar los aumentos de throughput que ofrece el hardwa
Mesh LLM es una plataforma de código abierto que permite ejecutar modelos de lenguaje grandes repartiendo el trabajo entre varios equipos o máquinas, en lugar de depender de un proveedor centralizado. Está desarrollada por el equipo n0 sobre iroh, su biblioteca de conectividad P2P, y se presenta com
La familia MiMo-V2.5, compuesta por las versiones MiMo-V2.5 y MiMo-V2.5-Pro, integra varias decisiones arquitectónicas orientadas a reducir el coste de razonamiento en contextos largos: atención híbrida con ventana deslizante (Hybrid SWA), que comprime el almacenamiento de la KVCache a aproximadamen
Los mini PC con memoria unificada, como los basados en AMD Strix Halo, NVIDIA DGX Spark o Apple Silicon, pueden cargar modelos de lenguaje de gran tamaño (LLM) que una tarjeta gráfica dedicada como la RTX 5090 no puede alojar, porque toda su RAM LPDDR5X soldada queda disponible como si fuera VRAM. U
colibrì es un motor de inferencia escrito en un único archivo de C (~1.300 líneas) y sin dependencias externas que permite ejecutar el modelo GLM-5.2, una arquitectura MoE de 744.000 millones de parámetros, en una máquina doméstica con aproximadamente 25 GB de RAM. El truco reside en explotar una pr
Hugging Face ha anunciado una actualización del backend de modelado de transformers dentro de vLLM que permite ejecutar los modelos de Hugging Face a la misma velocidad —o superior— que las implementaciones nativas escritas a mano para vLLM, sin necesidad de portar el código. La mejora se valida con
Este análisis técnico de Doubleword examina un dilema habitual en la inferencia de modelos de lenguaje: cuando se busca aumentar el rendimiento por segundo en una sola GPU, ¿conviene aumentar el tamaño de lote (ancho) o apostar por la decodificación especulativa (profundidad)? El trabajo parte de un
LongCat-2.0 es un nuevo modelo de lenguaje de arquitectura Mixture-of-Experts (MoE) con 1,6 billones de parámetros totales y unos 48.000 millones activados por token, presentado y liberado como código abierto por el equipo detrás de la familia LongCat. El salto respecto a versiones anteriores viene
Ornith-1.0 es una familia de modelos de código abierto presentados por DeepReinforce AI y diseñados específicamente para tareas de programación agentic, es decir, aquellas en las que el modelo no solo genera código, sino que planifica, ejecuta comandos y resuelve problemas de ingeniería de software
El modelo de código abierto GLM 5.2, desarrollado por la china Zhipu AI (Z.ai), obtuvo un 39 % de F1 en la detección de IDOR (Insecure Direct Object References) en el benchmark interno de Semgrep, superando a Claude Code, que alcanzó un 32 %, con un coste aproximado de 0,17 dólares por vulnerabilida
Los grandes modelos de lenguaje han dejado de ser una pila limpia de módulos Transformer repetidos. Entre 2022 y 2023, en Meta, el trabajo en LLM —que condujo a Llama— contrastaba con la aparatosa complejidad de los sistemas de recomendación. La industria ha corregido esa brecha incorporando a los L
UCCL-EP es un proyecto de software descrito en un artículo reciente y abordado en una entrada de blog de Doubleword que busca reproducir las primitivas de comunicación experto-paralelo (EP) de la biblioteca DeepEP de DeepSeek, originalmente diseñadas para hardware de NVIDIA, sobre cualquier combinac
El laboratorio chino Z.ai ha publicado GLM-5.2, un modelo de IA con licencia MIT que lidera el Artificial Analysis Intelligence Index v4.1 con 51 puntos, por delante de MiniMax-M3 y DeepSeek V4 Pro (ambos con 44) y de Kimi K2.6 (43). Se trata de una arquitectura Mixture-of-Experts con 753.000 millon
Moonshot AI ha lanzado Kimi K2.7 Code, un modelo lingüístico de gran tamaño especializado en tareas de programación. Basado en la arquitectura Mixture-of-Experts, cuenta con 1 billón de parámetros totales y activa 32 mil millones por inferencia. El modelo alcanza una longitud de contexto de 256.000
La decodificación especulativa es una técnica de optimización en inferencia de modelos de lenguaje que acelera la generación de tokens sin pérdida de calidad. Su principio es simple: el modelo predice varios tokens futuros de forma barata y luego verifica solo los aceptados, aprovechando el ancho de
Google DeepMind ha presentado DiffusionGemma, un nuevo modelo de la familia abierta Gemma 4 que abandona la generación autorregresiva tradicional —token a token, de izquierda a derecha— para producir bloques completos de texto en paralelo, una técnica inspirada en los modelos de generación de imagen
Los modelos de lenguaje de gran tamaño (LLM) requieren coordinar muchas GPUs para funcionar. Una de las técnicas clave es el paralelismo de expertos (EP), esencial en los modelos MoE a gran escala. A diferencia de otras formas de paralelismo, cuyas comunicaciones siguen patrones fijos, en EP el rout
Google ha presentado DiffusionGemma, un modelo experimental de inteligencia artificial de código abierto que promete revolucionar la generación de texto al ofrecer velocidades hasta cuatro veces superiores a las de los modelos tradicionales. El anuncio, realizado a través del blog oficial de la comp
Nex AGI, un laboratorio chino de inteligencia artificial, publicó el 2 de junio de 2026 Nex-N2-Pro, un modelo de código abierto bajo licencia Apache 2.0 orientado a tareas agenticas como programación, uso de herramientas y flujos de trabajo autónomos. Se trata de una arquitectura de Mezcla de Expert
Guanming y Bill, fundadores de General Instinct —startup de la promoción P26 de Y Combinator— han presentado InstinctRazor, una herramienta de código abierto orientada a comprimir modelos de inteligencia artificial frontier para ejecutarlos en hardware con recursos limitados como robots y dispositiv
Microsoft ha presentado MAI-Thinking-1, su primer modelo de inteligencia artificial de razonamiento avanzado desarrollado íntegramente desde cero por el equipo de Microsoft AI (MAI), sin recurrir a destilación de modelos de terceros. El anuncio, realizado en el marco de la conferencia Microsoft Buil
## Cómo ejecutar Gemma 4 en un Xeon de 2016 sin GPU: la hazaña técnica que desafía el 'memory wall' Un experimento publicado en el blog técnico point.free demuestra que es posible ejecutar un modelo de inteligencia artificial de última generación, concretamente Gemma 4 en su versión 26B con arquite
Rotary GPU es un enfoque de ejecución local para modelos grandes de mezcla de expertos (MoE) que permite correrlos en hardware de consumo con memoria limitada. Desarrollado a partir del concepto de residencia en aceleradores rotatorios, el método fue validado públicamente con el modelo Qwen3.6-35B-A
La familia de modelos de IA Laguna, desarrollada por poolsideai, ha sido lanzada con dos miembros iniciales: Laguna M.1 y Laguna XS.2. Laguna M.1 es un modelo Mixture of Experts (MoE) con 225 mil millones de parámetros totales y 23 mil millones de parámetros activos, entrenado internamente con 30 bi
Liquid AI ha anunciado hoy el lanzamiento de LFM2.5-8B-A1B, una evolución de su modelo de 'Mixture-of-Experts' diseñada para ejecutarse de manera eficiente y privada en hardware de consumo. Esta nueva versión, disponible bajo licencia abierta, supera a su predecesor al expandir su ventana de context
La propuesta de Stratum es un sistema de diseño conjunto hardware‑software que busca acelerar la inferencia de modelos de inteligencia artificial del tipo Mixture‑of‑Experts (MoE) mediante el uso de memorias DRAM monoliticas apiladas en 3D organizadas en varios niveles de capacidad y ancho de banda.
DeepSeek-V4 es una nueva generación de modelos de lenguaje de gran escala (LLM) desarrollados por DeepSeek AI, que se destacan por su capacidad para procesar contextos extremadamente largos, hasta un millón de tokens. Esto representa un avance significativo, ya que la mayoría de los LLM tradicionale
Google ha lanzado la familia de modelos Gemma 4, que ahora puede ejecutarse localmente en dispositivos gracias a la nueva versión 0.4.0 de LM Studio. Esta actualización introduce 'llmster' y la CLI 'lms', permitiendo a los usuarios ejecutar modelos como Gemma 4 26B en sus propios ordenadores, elimin
Step 3.5 Flash, un nuevo modelo de inteligencia artificial de código abierto, ha sido desarrollado para competir con sistemas propietarios de vanguardia. Este modelo, construido sobre una arquitectura de Mixture of Experts (MoE), utiliza solo 11 mil millones de sus 196 mil millones de parámetros por
