34 noticias
mesh-deck es una herramienta de línea de comandos diseñada para gestionar múltiples servicios de inteligencia artificial en una misma máquina, optimizando el uso de la memoria de las GPUs para evitar el colapso por falta de recursos. A diferencia de los entornos de ejecución tradicionales, mesh-deck
Cerebras ha detallado su metodología para desplegar modelos de inteligencia artificial de trillones de parámetros en sus chips de escala de oblea WSE-3T. El proceso permite ejecutar modelos como Kimi K3, que cuenta con aproximadamente 3 billones de parámetros, a velocidades de entre 1.000 y 2.000 to
Hugging Face ha anunciado la integración del soporte nativo de las unidades de procesamiento de tensores (TPU) en su ecosistema, permitiendo ejecutar modelos de Transformers, Diffusers y Kernels directamente en hardware de Google sin necesidad de intermediarios. Esta novedad elimina la dependencia d
Alibaba ha aumentado silenciosamente el precio de salida de su modelo DeepSeek V4 Flash 0731 en un 230%, elevando el coste de 0,40 a 1,32 dólares por millón de tokens. Este movimiento, detectado por el catálogo de precios de Stork AI, se suma a una serie de subidas en el sector: Mistral ha increment
Hugging Face ha presentado TorchNeuron, un plugin para PyTorch que permite ejecutar modelos de inteligencia artificial en los chips AWS Trainium con una interfaz nativa y simplificada. Disponible desde el 20 de octubre de 2026 en beta pública, esta herramienta elimina la necesidad de usar compilador
Microsoft ha anunciado el lanzamiento de su tercer chip de inteligencia artificial, el Maia 300, diseñado para convertirse en el sistema principal de inferencia de IA para sus productos y servicios. Este nuevo hardware, que comenzará a desplegarse en cargas de trabajo de producción en 2027, busca re
DigitalOcean presenta una nueva perspectiva sobre la escalabilidad de las aplicaciones de inteligencia artificial, argumentando que el cuello de botella no reside en la infraestructura de despliegue, sino en la economía de la inferencia. La plataforma destaca que, aunque la capacidad de cómputo es f
Modal Labs, un proveedor de infraestructura de inferencia de inteligencia artificial, se aproxima a una ronda de financiación de 750 millones de dólares liderada por Accel, con una valoración de 15.750 millones de dólares que incluye la inversión. Esta cifra triplica su valoración anterior de 4.650
HP ha hecho disponible para pedido su nueva estación de inferencia de IA, la ZGX Fury, que integra el superchip GB300 Grace Blackwell Ultra de NVIDIA. Este dispositivo, diseñado para operar como una caja de inferencia compartida en entornos empresariales como fábricas o oficinas, cuenta con 748 GB d
OpenAI presentó esta semana en la conferencia Hot Chips los primeros resultados de rendimiento de Jalapeño, su chip de inferencia de inteligencia artificial desarrollado en colaboración con Broadcom. Las pruebas, realizadas con el benchmark InferenceX de Semianalysis, muestran que el procesador supe
La startup Starcloud, que desarrolla satélites capaces de ejecutar inferencia de inteligencia artificial en órbita, ha cerrado una ampliación de 250 millones de dólares sobre su ronda Serie A de marzo, que en su conjunto eleva la valoración de la compañía a 2.300 millones de dólares. El capital adic
Cerebras ha presentado el CS-4, un sistema a escala de rack basado en su nueva arquitectura Nexus y equipado con tres chips WSE-3 Turbo (WSE-3T). El fabricante afirma que la solución ofrece hasta 30 veces más velocidad de inferencia que los sistemas con GPU y hasta 10 veces más rendimiento por vatio
La ficha de OpenRouter para el modelo DeepSeek V4 Pro 0813 funciona como una guía práctica para desarrolladores e integradores. El modelo lo aloja un único proveedor y OpenRouter reenvía cada petición de forma directa, sin lógica de enrutamiento intermedia. En el apartado de precios se muestra tant
La startup francesa Kog, fundada en solitario por Gaël Delalleau, asegura que es posible acelerar drásticamente la inferencia de modelos de inteligencia artificial en GPU estándar mediante optimización por software, frente a quienes consideran necesarias soluciones de hardware a medida como los chip
OpenAI y Cerebras presentaron esta semana el modo Ultrafast, un nuevo nivel de servicio en la API de OpenAI que permite ejecutar el modelo GPT-5.6 Sol a velocidades inéditas en el sector, con el respaldo de un socio de hardware poco convencional frente al dominio tradicional de las GPUs de NVIDIA. E
Llama.app se presenta como la página oficial del proyecto de código abierto llama.cpp, una iniciativa pensada para ejecutar modelos de inteligencia artificial de frontera directamente en el ordenador del usuario, sin depender de servicios en la nube, claves de API ni telemetría. Toda la información
Wafer ha logrado ejecutar el modelo abierto Kimi K3, de 2,8 billones de parámetros, en un nodo de ocho GPUs AMD MI355X con 288 GB de VRAM cada una, alcanzando 952 tokens por segundo agregados y 118 tok/s en flujo único. El resultado multiplica por 3,8 el rendimiento agregado por nodo y por 1,3 el de
Dos RTX 3090, un puente NVLink caro y una pregunta: ¿merece realmente la pena para cargas de trabajo de IA? Esta entrada es un benchmark a fondo que intenta responderla. El autor ejecuta cuatro tipos de pruebas: inferencia con partición por capas y paralelismo de tensores (llama-bench con Llama 3.3
General Compute, una startup de nube de inteligencia artificial centrada en inferencia, ha cerrado un préstamo de 400 millones de dólares con la firma de inversión tecnológica Upper90. El acuerdo podría ser el primero en utilizar chips específicos de inferencia como garantía, es decir, procesadores
La memoria flash NAND, presente en tarjetas SD, memorias USB y teléfonos inteligentes, podría convertirse en una pieza clave para aliviar la enorme demanda de memoria que generan los grandes modelos de lenguaje. Investigadores y fabricantes trabajan en High Bandwidth Flash (HBF), una evolución que a
libargus es un runtime de ejecución de inteligencia artificial nativo, sin gestión de memoria automática y con cero asignaciones de memoria, que consolida en un único proceso global las canalizaciones de visión, habla y modelos de lenguaje. La biblioteca actúa como una capa fina sobre los motores de
La startup francesa ZML, respaldada por el premio Turing Yann LeCun, ha presentado ZML/LLMD, un servidor de inferencia para modelos de lenguaje de gran tamaño capaz de ejecutarse en chips de Nvidia, AMD, Google TPU, Apple Metal e Intel Arc. Su fundador, Steeve Morin, explicó que el objetivo es rompe
La diseñadora de chips de inteligencia artificial SambaNova Systems ha cerrado una primera ampliación de su ronda Serie F por 1.000 millones de dólares y una valoración de 11.000 millones, liderada por General Atlantic. El cofundador y consejero delegado, Rodrigo Liang, avanzó a TechCrunch que en la
El equipo de Moondream analiza en profundidad un problema frecuente en la inferencia de modelos de IA: las llamadas burbujas de GPU, periodos en los que el procesador gráfico permanece inactivo porque la CPU aún no le ha indicado la siguiente tarea. El artículo explica por qué aparecen durante el bu
vLLM Semantic Router plantea que la siguiente capa clave en la inferencia de IA no es el modelo frontera, sino el router que tiene delante. Un router puede reducir costes eligiendo el modelo adecuado para cada petición, aplicar políticas de seguridad enviando dominios sensibles a modelos más estrict
El gasto en inteligencia artificial se ha convertido en un problema creciente para empresas de todos los tamaños. Uber agotó el presupuesto anual para IA en apenas cuatro meses, mientras Microsoft, Salesforce y GitHub ya aplican medidas internas para recortar el uso de modelos por parte de sus emple
OpenAI ha presentado Jalapeño, su primer procesador de inteligencia artificial diseñado junto a Broadcom para servidores que ejecutan modelos de lenguaje como ChatGPT. Se trata de un ASIC (circuito integrado de aplicación específica) orientado a la fase de inferencia, es decir, al procesamiento de l
La empresa de inferencia de inteligencia artificial Baseten está a punto de cerrar una ronda de financiación de 1.500 millones de dólares con una valoración de 13.000 millones, según informa The Wall Street Journal. La operación tendría lugar apenas cinco meses después de su Serie E de 300 millones
El MilkV Jupiter 2 es la primera placa basada en RISC-V que se presenta como un producto acabado, con 16 núcleos asimétricos (ocho Spacemit A100 a 2 GHz y ocho X100 a 2,4 GHz), 32 GB de RAM, conectividad 10GbE, Wi-Fi 6 y una GPU con soporte DRM. Fabricado por Radxa, el sistema incluye almacenamiento
Google DeepMind ha presentado DiffusionGemma, un nuevo modelo de la familia abierta Gemma 4 que abandona la generación autorregresiva tradicional —token a token, de izquierda a derecha— para producir bloques completos de texto en paralelo, una técnica inspirada en los modelos de generación de imagen
Una investigación sometida a arXiv el 3 de junio de 2026 examina empíricamente a Pearl, una blockchain de capa 1 respaldada públicamente por figuras relevantes del sector de la inteligencia artificial. El trabajo cuantifica, por primera vez, la distancia entre lo que la red promete y lo que realment
Groq está captando 650 millones de dólares en una nueva ronda de financiación, según informó Axios, apenas cinco meses después de que Nvidia licenciara la tecnología de inferencia de la empresa y fichara a sus principales ingenieros. La operación, en una valoración aún no revelada, ha sorprendido al
Intel ha anunciado que enviará antes de fin de año un nuevo chip de inteligencia artificial, 'Crescent Island', que utiliza memoria más barata y refrigeración por aire, frente a las ofertas de Nvidia y AMD, que requieren memoria de alto ancho de banda y refrigeración líquida. La compañía busca así c
La propuesta de Stratum es un sistema de diseño conjunto hardware‑software que busca acelerar la inferencia de modelos de inteligencia artificial del tipo Mixture‑of‑Experts (MoE) mediante el uso de memorias DRAM monoliticas apiladas en 3D organizadas en varios niveles de capacidad y ancho de banda.
