Promethevs ejecuta DeepSeek-V4.1-Flash-1017 en PC gaming con 64 GB de RAM

Fuentes: Promethevs runs DeepSeek-V4.1-Flash-1017 on gaming PCs with 64 GB RAM

Promethevs es un motor de software de código abierto que permite ejecutar el modelo de lenguaje DeepSeek-V4.1-Flash-1017 en equipos de escritorio estándar, utilizando 64 GB de RAM y una tarjeta gráfica NVIDIA RTX 3060 de 12 GB. A diferencia de las implementaciones anteriores que recortan el modelo, Promethevs procesa los 510 GB de pesos originales del modelo mediante una técnica de compresión y corrección. El sistema utiliza una copia de 2 bits para generar respuestas rápidas y solo corrige las palabras donde el modelo muestra incertidumbre, logrando un 98,33% de acuerdo con las respuestas del modelo completo en pruebas de 960 palabras.

El proyecto, desarrollado por Ryan Flavell, ofrece un servidor local compatible con la API de OpenAI, lo que permite a aplicaciones y agentes de código interactuar con el modelo sin necesidad de conexión a internet. La instalación requiere un disco NVMe de al menos 1,1 TB y un proceso de construcción que toma aproximadamente 4 horas. Los benchmarks indican que el motor alcanza velocidades de hasta 7,4 tokens por segundo en prompts de código con caché cálida, superando en un factor de 2,7 a la decodificación exacta del modelo completo en el mismo hardware. La herramienta destaca por su privacidad, ya que el procesamiento ocurre localmente en el equipo del usuario, y su transparencia, al descargar los pesos originales de DeepSeek y verificarlos contra hashes publicados.