software · 14 menciones
Unsloth ha lanzado Dynamic 2.0 GGUFs, una actualización significativa de su método de cuantización para modelos de lenguaje grandes (LLMs). Esta nueva versión supera a otros métodos de cuantización líderes, estableciendo nuevos puntos de referencia en pruebas MMLU y KL Divergence, lo que permite a l
Unsloth ha simplificado el proceso de ajuste fino (fine-tuning) de los modelos de lenguaje grandes Qwen3.5, una familia de modelos desarrollada por Alibaba. Ahora, usuarios pueden ajustar versiones de 0.8B a 122B de Qwen3.5, incluyendo soporte para ajuste fino tanto de texto como de visión. Unsloth
Alibaba ha lanzado la familia de modelos de lenguaje grandes (LLM) Qwen3.5, y ahora están disponibles para su ejecución local en dispositivos personales. Estos modelos, que incluyen variantes desde 0.8B hasta 397B de parámetros, destacan por su rendimiento en tareas de razonamiento híbrido, soporte
RunanywhereAI ha lanzado RCLI, un asistente de voz con inteligencia artificial diseñado para macOS que funciona completamente en el dispositivo, eliminando la necesidad de conexión a la nube o claves de API. Utilizando Apple Silicon (M1 o posterior), RCLI integra reconocimiento de voz (STT), un mode
Unsloth AI ha lanzado Unsloth Studio (Beta), una interfaz de usuario web de código abierto y sin necesidad de programación para entrenar, ejecutar y exportar modelos de IA de código abierto localmente. La herramienta, disponible para Windows, Linux, WSL y MacOS (con soporte limitado para entrenamien
Eigen Labs ha lanzado Darkbloom, una red descentralizada de inferencia de IA que aprovecha el poder de procesamiento inactivo de los ordenadores Mac con Apple Silicon. La plataforma busca democratizar el acceso a la inferencia de IA, actualmente dominada por grandes proveedores como AWS, Google y Az
La familia de modelos de IA Laguna, desarrollada por poolsideai, ha sido lanzada con dos miembros iniciales: Laguna M.1 y Laguna XS.2. Laguna M.1 es un modelo Mixture of Experts (MoE) con 225 mil millones de parámetros totales y 23 mil millones de parámetros activos, entrenado internamente con 30 bi
vLLM-Kunlun es un plugin de hardware mantenido por la comunidad y publicado por Baidu que permite ejecutar el motor de inferencia vLLM sobre la XPU Kunlun (chip Kunlun3 P800). El proyecto se distribuye como un plugin estándar de la plataforma vLLM mediante entry points de Python, lo que evita modifi
Swiftlet es un runtime escrito en Swift y Metal que permite ejecutar modelos MoE híbridos de la familia Qwen3-Next y Qwen3.5/3.6 en hardware Apple convencional. Su estrategia consiste en mantener residente en memoria únicamente el núcleo denso del modelo (atención, proyecciones DeltaNet, routers, ex
Los modelos de lenguaje actuales intercambian conocimiento factual por capacidad de razonamiento, y lo hacen de forma deliberada. Modelos como GLM-5.2 (99,2% en AIME 2026 con unos 40.000 millones de parámetros activos por token) o DeepSeek V4-Flash (13.000 millones activos) obtienen puntuaciones raz
Kev es una familia de modelos de decisión pequeños, diseñados para ser entrenados y ejecutados localmente, que se construyen sobre la base Qwen3.5. Esta herramienta permite a los desarrolladores implementar arquitecturas de decisión basadas en la metodología descrita en 'Jev's Architecture Unmasked'
Esta herramienta permite ejecutar modelos de lenguaje de gran escala (LLM) directamente en el navegador del usuario, facilitando la comparación entre dos métodos de obtención de probabilidades de decisión. El sistema opera en modo local, utilizando GPUs del equipo para procesar modelos como MiniCPM5
La implementación local de modelos de lenguaje grandes (LLM) ha ganado relevancia por las preocupaciones de privacidad y la necesidad de inferencia on-premise, aunque los costos energéticos en hardware de consumo siguen siendo poco caracterizados. Este artículo presenta un benchmark reproducible de
Jeff es un conjunto de modelos de lenguaje pequeños, basados en Qwen3.5 y Gemma 4, diseñados para la clasificación de cero-shot (sin entrenamiento específico para la tarea). Su objetivo principal es ofrecer decisiones rápidas y bien calibradas entre opciones, integrándose directamente en el código l
