24 noticias
Deltafin es un proyecto open source que permite ejecutar el modelo Moonshot Kimi K3, con 2,8 billones de parámetros y arquitectura Mixture of Experts (16 expertos enrutados), sobre hardware doméstico basado en Apple Silicon, sirviendo los pesos directamente desde unidades SSD. El repositorio, manten
Compute Cheap es una plataforma de GPU cloud orientada a ofrecer capacidad de cómputo para entrenamiento e inferencia de inteligencia artificial a precios inferiores a los de los hyperscalers tradicionales. El servicio se apoya en un modelo de marketplace en el que los propietarios de capacidad pusa
Un sistema con ocho GPU NVIDIA RTX PRO 6000 Blackwell (96 GB GDDR7 cada una, 768 GB agregados) y un CPU AMD EPYC 9555 (64 núcleos, 128 hilos, Zen 5) ofrece alternativas de alto paralelismo a un coste muy inferior al de las plataformas HGX B200 o B300 con NVLink. El artículo analiza por qué fragmenta
GLM-5.3 Flash en hardware chino: la grieta silenciosa de la guerra de chips de IA *Fuente primaria: [Martín Alderson](https://martinalderson.com/posts/glm-5-3-flash-chinese-hardware/), _What GLM-5.3 Flash running on Chinese hardware actually means_ (29 ago 2026)* [ en producción sobre una única GPU AMD Instinct MI300X. La MI300X dispone de 192 GiB de HBM3 y un ancho de banda de 5,3 TB/s, lo que permit
Etched, startup de chips para inteligencia artificial fundada en 2022 por tres exalumnos de Harvard, ha cerrado una ronda Serie C de 300 millones de dólares con una valoración de 10.300 millones, según confirmó a TechCrunch el cofundador y director de operaciones Robert Wachen. La ronda fue liderada
Hetzner, proveedor alemán de infraestructura en la nube conocido por sus precios agresivos, ha puesto en marcha un experimento de inferencia de modelos de lenguaje grandes. El servicio, accesible desde el panel Experiments, ofrece una API compatible con OpenAI y, por ahora, un único modelo: Qwen3.6-
Benedict Evans, analista tecnológico, examina en un ensayo las incertidumbres que rodean el precio de los tokens de IA y plantea si los modelos frontera terminarán como infraestructura de bajo margen o conservarán poder de fijación de precios. El texto parte de una certeza doble: el sector atraviesa
Espresso es un proyecto de código abierto escrito en Swift 6.2 que permite entrenar y ejecutar modelos transformer directamente sobre el Neural Engine (ANE) de los chips Apple Silicon, esquivando por completo la capa CoreML. Para ello, la herramienta accede a APIs privadas del sistema mediante dlope
La startup Etched, rival de Nvidia en el segmento de chips para inteligencia artificial, presentó este martes un informe de progreso tras la fabricación exitosa de su primer chip por parte de TSMC a principios de año. La compañía asegura haber cerrado ya 1.000 millones de dólares en pedidos contract
Unconventional AI, compañía dirigida por Naveen Rao, exresponsable de IA en Databricks, presentó este jueves su primer modelo de inteligencia artificial, Un0, un sistema de generación de imágenes basado en una arquitectura informática basada en osciladores que, según la empresa, podría reducir el co
OpenAI presentó este miércoles Jalapeño, su primer procesador de inferencia diseñado y fabricado en colaboración con Broadcom. El chip, optimizado para los sistemas de inferencia de la compañía, fue desarrollado con la asistencia de los propios modelos de inteligencia artificial de OpenAI. Según la
El fabricante de chips de inteligencia artificial Groq anunció este lunes una nueva ronda de financiación de 650 millones de dólares, confirmando así las informaciones previas. La captación llega unos seis meses después de que Nvidia firmara un acuerdo de licencia no exclusiva por la tecnología de G
La empresa Doubleword documenta el trabajo técnico realizado para ejecutar el modelo DeepSeek-V4-Flash sobre las tarjetas aceleradoras AMD MI300X, una tarea que, según la compañía, no funciona de forma predeterminada en vLLM a principios de mayo de 2026. La MI300X, lanzada en diciembre de 2023, ofr
El desarrollador Jmaczan ha lanzado en GitHub 'tiny-vllm', un motor de inferencia de alto rendimiento para modelos de lenguaje grande (LLM) desarrollado en C++ y CUDA. Esta iniciativa se presenta como una versión más compacta y educativa de vLLM, diseñada para derivar desde cero las matemáticas y ar
IonRouter ha lanzado una nueva plataforma para la inferencia de inteligencia artificial (IA) de alto rendimiento y bajo costo. La plataforma, impulsada por la tecnología IonAttention, permite a los equipos ejecutar múltiples modelos de IA, incluyendo Vision-Language Models (VLMs), en una sola GPU, o
Un nuevo proyecto de código abierto llamado Timber está acelerando significativamente la inferencia de modelos de aprendizaje automático clásicos, según anunció su creador, Kossisoroyce, en GitHub. Timber compila modelos basados en árboles (XGBoost, LightGBM, scikit-learn, CatBoost y ONNX) en código
El artículo de taalas.com aborda un desafío crucial para la adopción generalizada de la Inteligencia Artificial (IA): la combinación de alta latencia y costos prohibitivos. Actualmente, los modelos de IA, especialmente los grandes modelos de lenguaje (LLM), requieren una infraestructura masiva y cos
Hugging Face ha publicado un artículo técnico explicando 'continuous batching', una técnica para acelerar la respuesta de los modelos de lenguaje grandes (LLMs) como Qwen y Claude. El problema actual es que los LLMs, al generar texto, procesan la solicitud completa y luego añaden tokens uno por uno,