Alibaba ha lanzado la familia de modelos de lenguaje grandes (LLM) Qwen3.5, y ahora están disponibles para su ejecución local en dispositivos personales. Estos modelos, que incluyen variantes desde 0.8B hasta 397B de parámetros, destacan por su rendimiento en tareas de razonamiento híbrido, soporte para 201 idiomas con un contexto de 256K, y capacidades avanzadas en codificación, visión, chat y manejo de contextos largos. Los modelos de 35B y 27B pueden funcionar en dispositivos con 22GB de RAM/Mac. Unsloth ha publicado versiones GGUF optimizadas para facilitar su uso local, incluyendo actualizaciones recientes con un algoritmo de cuantificación mejorado y mejoras en el rendimiento en tareas de chat, codificación y uso de herramientas. Los usuarios pueden habilitar o deshabilitar el modo de 'pensamiento' para ajustar el comportamiento del modelo. Se proporcionan guías específicas para diferentes tamaños de modelos y casos de uso, incluyendo instrucciones para la instalación y configuración con llama.cpp. La disponibilidad local de estos modelos permite a los usuarios experimentar y aprovechar la tecnología de vanguardia de Alibaba sin depender de servicios en la nube.
Noticias agregadas con IA