software · 5 menciones
El laboratorio ISTA-DASLab del Instituto de Ciencia y Tecnología de Austria ha publicado un repositorio que ofrece cuantizaciones no uniformes del modelo DeepSeek-V4.1-Flash-1017 utilizando los métodos GSQ y RCO. Este proyecto permite reducir el tamaño de los archivos GGUF manteniendo la precisión d
Este artículo técnico detalla la configuración y el rendimiento de un modelo de lenguaje modificado, DeepSeek-V4.1-Flash-1017, desplegado en una infraestructura de cuatro GPUs NVIDIA RTX PRO 6000 Blackwell. El proyecto, alojado en GitHub, utiliza vLLM de Local Inference Lab como motor de inferencia,
La guía técnica detallada en este repositorio de GitHub ofrece un método paso a paso para instalar y ejecutar modelos de lenguaje de DeepSeek, como V4, R1 y sus distilantes, en entornos locales de escritorio (PC, Mac) y servidores. El objetivo es permitir el uso de estas herramientas de forma privad
El repositorio lucataco/DeepSeek-V4.1-Flash-2x-DGX-Spark proporciona la infraestructura técnica para desplegar el modelo DeepSeek-V4.1-Flash-1017 en dos nodos NVIDIA DGX Spark (GB10) conectados mediante un cable RoCE. La configuración utiliza TensorFold para la paralelización tensorial y un paquete
DeepSeek-V4.1-Flash-1017 es una actualización menor del modelo DeepSeek-V4.1-Flash que introduce mejoras significativas en razonamiento, programación, tareas agénticas y benchmarks visuales. El objetivo principal de esta versión es reducir el tiempo de ejecución de las tareas y la longitud de la sal