IA en el Navegador: Ejecuta Modelos GGUF sin Nube

Fuentes: MDST Engine: running GGUF models in your browser

MDST ha lanzado una nueva herramienta que permite ejecutar modelos de lenguaje grandes (LLMs) en formato GGUF directamente en el navegador web, sin necesidad de depender de proveedores de la nube o configuraciones complejas. Esta innovación, impulsada por WebGPU, abre la puerta a un acceso más amplio y sencillo a la inteligencia artificial local, incluso en dispositivos con hardware modesto como un MacBook Air M1. La plataforma MDST, que funciona como un IDE colaborativo y seguro, facilita la creación, edición y revisión de archivos, así como la colaboración en tiempo real, con encriptación de extremo a extremo.

La herramienta se integra con una variedad de modelos de LLMs, tanto en la nube (Claude, OpenAI GPT, Gemini, Kimi, DeepSeek) como en formato GGUF (Qwen, Ministral, LFM, Gemma), ofreciendo flexibilidad a los usuarios. MDST también incluye un sistema de clasificación pública basado en WebGPU que permite a los usuarios comparar el rendimiento de diferentes modelos y configuraciones. La iniciativa busca democratizar el acceso a la IA, permitiendo a usuarios de todos los niveles experimentar, investigar y aprender sobre LLMs de forma accesible y privada. El proyecto está abierto a contribuciones y feedback de la comunidad.