32 noticias
AllModels es una plataforma de enrutamiento de modelos de lenguaje que permite a los desarrolladores acceder a modelos de inferencia de proveedores independientes mediante una única API compatible con el esquema de OpenAI. La herramienta resuelve la fragmentación del mercado al ofrecer un punto de e
En 2026, la inteligencia artificial local ha evolucionado de un proyecto experimental a una alternativa viable y madura frente a la inferencia en la nube. El cambio más significativo ha sido la accesibilidad del hardware: las GPUs de gama alta como la RTX 5090 y la AMD RX 7900 XTX, junto con el cola
DeepSeek-V4.1-Flash-1017 es una actualización menor del modelo DeepSeek-V4.1-Flash que introduce mejoras significativas en razonamiento, programación, tareas agénticas y benchmarks visuales. El objetivo principal de esta versión es reducir el tiempo de ejecución de las tareas y la longitud de la sal
Intel ha presentado la GPU D270, una unidad de procesamiento gráfico diseñada específicamente para la inferencia de modelos de inteligencia artificial en entornos de centros de datos. Este dispositivo se posiciona como una solución para la era de la IA agéntica, que exige manejar contextos más largo
El proyecto cyber-on-strata es un fork del motor de inferencia Strata, diseñado para ejecutar el modelo Cyber-Tiel-Coder-35B-A3B (Qwen3.5 MoE) en tarjetas gráficas con 8 GB de memoria VRAM. A diferencia del motor original, que no soporta este modelo específico, esta implementación utiliza una arquit
vLLM es una biblioteca de código abierto diseñada para la inferencia y el servicio de modelos de lenguaje de gran escala (LLM). Desarrollada originalmente en el Sky Computing Lab de la Universidad de California en Berkeley, esta herramienta se ha convertido en uno de los proyectos de IA más activos,
La industria de la inteligencia artificial se enfrenta a un cambio de paradigma: la demanda de inferencia ha superado a la de entrenamiento, obligando a los fabricantes de hardware a repensar sus estrategias. Mientras que los modelos de lenguaje de gran escala (LLM) han evolucionado de millones a bi
Foundation Model Engineering es un texto técnico diseñado para ingenieros de inteligencia artificial y lectores orientados a la investigación que buscan comprender el funcionamiento interno de los modelos de fundación modernos. A diferencia de las guías superficiales, este recurso explora la evoluci
Deltafin es un proyecto open source que permite ejecutar el modelo Moonshot Kimi K3, con 2,8 billones de parámetros y arquitectura Mixture of Experts (16 expertos enrutados), sobre hardware doméstico basado en Apple Silicon, sirviendo los pesos directamente desde unidades SSD. El repositorio, manten
Compute Cheap es una plataforma de GPU cloud orientada a ofrecer capacidad de cómputo para entrenamiento e inferencia de inteligencia artificial a precios inferiores a los de los hyperscalers tradicionales. El servicio se apoya en un modelo de marketplace en el que los propietarios de capacidad pusa
Un sistema con ocho GPU NVIDIA RTX PRO 6000 Blackwell (96 GB GDDR7 cada una, 768 GB agregados) y un CPU AMD EPYC 9555 (64 núcleos, 128 hilos, Zen 5) ofrece alternativas de alto paralelismo a un coste muy inferior al de las plataformas HGX B200 o B300 con NVLink. El artículo analiza por qué fragmenta
GLM-5.3 Flash en hardware chino: la grieta silenciosa de la guerra de chips de IA *Fuente primaria: [Martín Alderson](https://martinalderson.com/posts/glm-5-3-flash-chinese-hardware/), _What GLM-5.3 Flash running on Chinese hardware actually means_ (29 ago 2026)* [ en producción sobre una única GPU AMD Instinct MI300X. La MI300X dispone de 192 GiB de HBM3 y un ancho de banda de 5,3 TB/s, lo que permit
Etched, startup de chips para inteligencia artificial fundada en 2022 por tres exalumnos de Harvard, ha cerrado una ronda Serie C de 300 millones de dólares con una valoración de 10.300 millones, según confirmó a TechCrunch el cofundador y director de operaciones Robert Wachen. La ronda fue liderada
Hetzner, proveedor alemán de infraestructura en la nube conocido por sus precios agresivos, ha puesto en marcha un experimento de inferencia de modelos de lenguaje grandes. El servicio, accesible desde el panel Experiments, ofrece una API compatible con OpenAI y, por ahora, un único modelo: Qwen3.6-
Benedict Evans, analista tecnológico, examina en un ensayo las incertidumbres que rodean el precio de los tokens de IA y plantea si los modelos frontera terminarán como infraestructura de bajo margen o conservarán poder de fijación de precios. El texto parte de una certeza doble: el sector atraviesa
Espresso es un proyecto de código abierto escrito en Swift 6.2 que permite entrenar y ejecutar modelos transformer directamente sobre el Neural Engine (ANE) de los chips Apple Silicon, esquivando por completo la capa CoreML. Para ello, la herramienta accede a APIs privadas del sistema mediante dlope
La startup Etched, rival de Nvidia en el segmento de chips para inteligencia artificial, presentó este martes un informe de progreso tras la fabricación exitosa de su primer chip por parte de TSMC a principios de año. La compañía asegura haber cerrado ya 1.000 millones de dólares en pedidos contract
Unconventional AI, compañía dirigida por Naveen Rao, exresponsable de IA en Databricks, presentó este jueves su primer modelo de inteligencia artificial, Un0, un sistema de generación de imágenes basado en una arquitectura informática basada en osciladores que, según la empresa, podría reducir el co
OpenAI presentó este miércoles Jalapeño, su primer procesador de inferencia diseñado y fabricado en colaboración con Broadcom. El chip, optimizado para los sistemas de inferencia de la compañía, fue desarrollado con la asistencia de los propios modelos de inteligencia artificial de OpenAI. Según la
El fabricante de chips de inteligencia artificial Groq anunció este lunes una nueva ronda de financiación de 650 millones de dólares, confirmando así las informaciones previas. La captación llega unos seis meses después de que Nvidia firmara un acuerdo de licencia no exclusiva por la tecnología de G
La empresa Doubleword documenta el trabajo técnico realizado para ejecutar el modelo DeepSeek-V4-Flash sobre las tarjetas aceleradoras AMD MI300X, una tarea que, según la compañía, no funciona de forma predeterminada en vLLM a principios de mayo de 2026. La MI300X, lanzada en diciembre de 2023, ofr
El desarrollador Jmaczan ha lanzado en GitHub 'tiny-vllm', un motor de inferencia de alto rendimiento para modelos de lenguaje grande (LLM) desarrollado en C++ y CUDA. Esta iniciativa se presenta como una versión más compacta y educativa de vLLM, diseñada para derivar desde cero las matemáticas y ar
IonRouter ha lanzado una nueva plataforma para la inferencia de inteligencia artificial (IA) de alto rendimiento y bajo costo. La plataforma, impulsada por la tecnología IonAttention, permite a los equipos ejecutar múltiples modelos de IA, incluyendo Vision-Language Models (VLMs), en una sola GPU, o
Un nuevo proyecto de código abierto llamado Timber está acelerando significativamente la inferencia de modelos de aprendizaje automático clásicos, según anunció su creador, Kossisoroyce, en GitHub. Timber compila modelos basados en árboles (XGBoost, LightGBM, scikit-learn, CatBoost y ONNX) en código
El artículo de taalas.com aborda un desafío crucial para la adopción generalizada de la Inteligencia Artificial (IA): la combinación de alta latencia y costos prohibitivos. Actualmente, los modelos de IA, especialmente los grandes modelos de lenguaje (LLM), requieren una infraestructura masiva y cos
Hugging Face ha publicado un artículo técnico explicando 'continuous batching', una técnica para acelerar la respuesta de los modelos de lenguaje grandes (LLMs) como Qwen y Claude. El problema actual es que los LLMs, al generar texto, procesan la solicitud completa y luego añaden tokens uno por uno,