software · 20 menciones
Este proyecto técnico detalla la configuración y optimización de un agente de inferencia local para ejecutar el modelo Qwen3.8-27B en una laptop con RTX 5070 Ti y 12 GB de VRAM. La solución se basa en la combinación de NInfer, KVMem y técnicas de decodificación especulativa (MTP) para maximizar el r
El modelo Underdog-Saluki-27B-1.0, desarrollado por ConwayResearch, es una versión optimizada del modelo Qwen3.8-27B diseñada para ejecutarse eficientemente en hardware con menos de 8 GB de RAM. Su objetivo principal es mantener la integridad de las llamadas a herramientas (tool calling) y el razona
El repositorio vllm-sm70 proporciona una pila de producción para ejecutar modelos de lenguaje en tarjetas NVIDIA V100 (arquitectura sm_70). Su objetivo principal es resolver las limitaciones de rendimiento del vLLM original en hardware Volta, que suelen resultar en contextos cortos o tiempos de infe
Arf es un motor de inferencia de modelos de lenguaje grandes (LLM) escrito en Rust, diseñado específicamente para hardware Apple Silicon. A diferencia de las soluciones comerciales, Arf no utiliza frameworks de aprendizaje automático preexistentes; en su lugar, implementa desde cero las operaciones
Superfluid es un demonio de servicio unificado diseñado para la inferencia local de modelos de lenguaje de gran escala (LLM), capaz de gestionar múltiples agentes y máquinas mediante una única interfaz de API. La herramienta centraliza el control sobre llama.cpp, MLX y baseRT, permitiendo que varios
El modelo autotrust/JEV-27B-VL se posiciona como el líder en la categoría de modelos de decisión de visión en el índice comunitario JEV Decision Index 0.3, actualizado en octubre de 2026. Con 27.000 millones de parámetros, supera a modelos de referencia de 397.000 millones, como Qwen3.5-397B-A17B, o
Los modelos de lenguaje de gran escala (LLMs) están recuperando una técnica de compresión textual conocida como 'telegrafía' o 'cablese' para optimizar los costes de tokens en sus aplicaciones empresariales. Esta estrategia, que consiste en generar respuestas en un registro abreviado y sin formato,
Conway Research, fundada por el programador autodidacta Sigil Wen, ha lanzado una beta cerrada de Underdog, un asistente de inteligencia artificial diseñado para operar íntegramente en el dispositivo del usuario. Esta herramienta destaca por su enfoque en la privacidad extrema, eliminando la necesid
Microsoft y Hugging Face han publicado ThinkingBox, un benchmark que evalúa la fiabilidad de los agentes de inteligencia artificial al interactuar con bases de datos y sistemas de backend. El estudio, que analiza 507 flujos de trabajo empresariales, destaca una brecha significativa entre la aparienc
MegaCapybara es un motor de inferencia optimizado para ejecutar el modelo Qwen3.8-27B en tarjetas gráficas NVIDIA GeForce RTX 5090, alcanzando velocidades de hasta 500 tokens por segundo para un solo agente y 2.000 tokens por segundo para equipos de agentes. La herramienta destaca por su uso de form
El equipo de investigación presenta AREX-2, un sistema diseñado para potenciar la capacidad de auto-mejora de los agentes de inteligencia artificial. Este avance se basa en la definición de auto-mejora como la habilidad de refinar iterativamente una solución durante la ejecución de pruebas. El siste
La saturación de modelos de inteligencia artificial ha convertido la elección del chatbot en un desafío complejo, donde la potencia bruta no garantiza la utilidad práctica. En 2026, la industria se ha desplazado de simples conversaciones a agentes autónomos capaces de ejecutar tareas, lo que exige e
El repositorio Offensive-Security-AI-Models de JoasASantos centraliza una lista curada de modelos de inteligencia artificial de pesos abiertos, diseñados específicamente para operaciones de red team, pruebas de penetración y investigación en seguridad. La colección, actualizada en septiembre de 2026
Broadcom presentó en la VMware Explore 2026 de Las Vegas su nueva oferta VMware Private AI Cloud, que concentra bajo un mismo paraguas toda su cartera de inteligencia artificial para infraestructura privada. El mensaje central, repetido en el escenario por Ram Velaga, presidente de la división de so
NVIDIA ha presentado en IFA 2026 una batería de novedades para reforzar la inteligencia artificial ejecutada en local. La compañía busca simplificar el despliegue de agentes, acelerar la inferencia, ampliar el catálogo de modelos optimizados y llevar aplicaciones creativas y de productividad a equip
Un sistema con ocho GPU NVIDIA RTX PRO 6000 Blackwell (96 GB GDDR7 cada una, 768 GB agregados) y un CPU AMD EPYC 9555 (64 núcleos, 128 hilos, Zen 5) ofrece alternativas de alto paralelismo a un coste muy inferior al de las plataformas HGX B200 o B300 con NVLink. El artículo analiza por qué fragmenta
Inco AI presenta DFlash 2, una evolución de su técnica de decodificación especulativa que aumenta en más de un 20% la producción de tokens por cada pasada de verificación del modelo objetivo, con apenas un 1% de latencia adicional y sin alterar la distribución de salida. En las pruebas internas, la
Unsloth ha presentado Dynamic v3.0, una nueva iteración de su sistema de cuantización para modelos de gran tamaño. La compañía publica los GGUF de Qwen3.8-27B bajo este esquema, que según sus pruebas internas ofrecen más de un 10% adicional de exactitud top-1% al mismo tamaño en disco frente a otras
Qwen3.8-27B es un modelo de inteligencia artificial presentado con una galería curada de demos generadas el mismo día de su publicación. Cada tarjeta de la colección enlaza a una página web autocontenida que ilustra un caso de uso distinto: desde jardines de vóxeles con pagodas hasta rejillas 'bento
Unsloth ha publicado en Hugging Face la versión GGUF del modelo Qwen3.8-27B, una variante densa de 27.000 millones de parámetros con comprensión nativa de imágenes y vídeo, control flexible del modo de razonamiento y mejoras en la ejecución autónoma de tareas largas. El repositorio incluye cuantizac