hardware · 14 menciones
La decisión de autoalojar modelos de lenguaje versus utilizar APIs alojadas depende de cuatro variables predecibles: volumen de tokens, consistencia del tráfico, calidad del modelo y capacidad de operaciones. Este artículo técnico de DigitalOcean establece un marco para convertir estos datos en un c
Fish Audio Drama 3 es un modelo de texto a voz de nueva generación diseñado para escenas multiconversacionales y contenidos de larga duración. Con 35.000 millones de parámetros y 3.000 millones activos por token, utiliza una arquitectura MoE (Mixture of Experts) con atención híbrida para optimizar e
Hugging Face publica una guía práctica para que las equipos de seguridad empresariales autoalojen modelos de inteligencia artificial de pesos abiertos, como GLM 5.2, para responder a incidentes de ciberseguridad. Esta recomendación surge tras un incidente de seguridad en julio de 2026, donde un agen
Quesma Blog publica un análisis exhaustivo sobre cómo afecta la cuantización al rendimiento del modelo Qwen3.8 27B en distintas tareas. El modelo completo en BF16 ocupa 55 GB de VRAM, fuera del alcance de la mayoría del hardware de consumo. Los experimentos, ejecutados con llama.cpp sobre GPUs alqui
Compute Cheap es una plataforma de GPU cloud orientada a ofrecer capacidad de cómputo para entrenamiento e inferencia de inteligencia artificial a precios inferiores a los de los hyperscalers tradicionales. El servicio se apoya en un modelo de marketplace en el que los propietarios de capacidad pusa
Este artículo técnico explica por qué la combinación de MLA (atención de latente múltiple) con MTP (decodificado especulativo o multi-token prediction) tiende a perjudicar el rendimiento en las GPUs actuales, partiendo de un comentario del investigador Su Jianlin. La clave está en la intensidad arit
El Gobierno chino ha instado a Tencent, ByteDance y a otras empresas nacionales a trasladar a Hong Kong las GPU H200 de Nvidia que acaban de recibir, con el fin de mantener esos circuitos fuera del territorio aduanero continental y desalentar la compra de hardware extranjero para inteligencia artifi
La startup francesa Kog, fundada en solitario por Gaël Delalleau, asegura que es posible acelerar drásticamente la inferencia de modelos de inteligencia artificial en GPU estándar mediante optimización por software, frente a quienes consideran necesarias soluciones de hardware a medida como los chip
cMCP (Confidential MCP Runtime) es una pasarela (gateway) de código abierto que aplica políticas de seguridad a las llamadas de herramientas del protocolo MCP (Model Context Protocol) desde dentro de un Entorno de Ejecución Confiable (TEE) por hardware. Su objetivo es resolver una debilidad estructu
CoreWeave y Nebius, las dos "neoclouds" cotizadas más reconocidas, han multiplicado ventas, cartera de pedidos y cotización gracias al acceso rápido a las últimas GPU de Nvidia y a una elevada utilización de la computación. Cada compañía ha contratado 3,5 GW de potencia, aunque CoreWeave solo prevé
Avataar AI, una de las doce startups seleccionadas por la India AI Mission —iniciativa gubernamental de unos 1.200 millones de dólares que ofrece acceso a GPUs subvencionadas—, ha presentado Varya, un modelo de generación de vídeo optimizado para el contexto cultural indio. La compañía, respaldada p
Los modelos de lenguaje de gran tamaño (LLM) requieren coordinar muchas GPUs para funcionar. Una de las técnicas clave es el paralelismo de expertos (EP), esencial en los modelos MoE a gran escala. A diferencia de otras formas de paralelismo, cuyas comunicaciones siguen patrones fijos, en EP el rout
Kog AI ha lanzado una vista previa técnica de su motor de inferencia, demostrando que las tarjetas gráficas estándar pueden alcanzar velocidades de generación de tokens de hasta 3.000 por segundo. El sistema, probado en configuraciones de 8 tarjetas AMD MI300X y NVIDIA H200, logra estos rendimientos
El algoritmo K-Means es una técnica fundamental en aprendizaje automático para agrupar datos similares. Tradicionalmente, se ha utilizado para tareas como organizar conjuntos de datos o preprocesar incrustaciones (embeddings), pero su aplicación en tiempo real, en sistemas online, ha sido limitada p
