Broadcom reagrupa su cartera de IA en VMware Private AI Cloud y rechaza la facturación por tokens

Fuentes: Raus aus der Tokenfalle – mit VMware

Broadcom presentó en la VMware Explore 2026 de Las Vegas su nueva oferta VMware Private AI Cloud, que concentra bajo un mismo paraguas toda su cartera de inteligencia artificial para infraestructura privada. El mensaje central, repetido en el escenario por Ram Velaga, presidente de la división de software de infraestructura, fue que el modelo debe acudir a los datos y no al revés. La propuesta se apoya en cuatro argumentos surgidos de conversaciones con clientes: para cargas estables y planificables, la operación propia suele ser más económica que la nube pública; el hardware permanecerá escaso y caro, especialmente la memoria, lo que favorece aprovechar al máximo los recursos existentes; la soberanía se ha trasladado del plano nacional al empresarial, incluyendo metadatos; y nadie quiere levantar un silo adicional para la IA junto a cómputo, red y almacenamiento.

La pieza clave es VMware AI Factory, descrita por Broadcom como el cimiento software-defined de la Private AI Cloud, que reduce de semanas a horas el plazo entre la entrega de un servidor y el despliegue del primer modelo gracias a la automatización de hardware, stack de software y ciclo de vida. Una nueva alianza con MetalSoft lleva la automatización bare-metal hasta VCF, de modo que servidores de distintos fabricantes se aprovisionan desde la consola de gestión sin recurrir a las herramientas propietarias de cada proveedor. Sobre esa base se apoyan los Private AI Services, que agrupan las GPUs de toda la organización, ofrecen una galería de modelos común para inferencia y flujos RAG, y preparan un AI Gateway con enrutamiento de prompts, límites de tokens y tasas, además de sandboxes seguras para código de agentes y autoescalado de modelos. En hardware, AI Factory combina VCF con nodos certificados de Cisco, Dell, Lenovo y Supermicro, una variante AMD con GPUs Instinct y ROCm, y soporte para Nvidia B300, Grace y ConnectX-7. Broadcom anuncia cinco modelos probados en su plataforma —Nemotron 3, Gemma 4, cotomi de NEC, Qwen3.8-27B y GLM 5.2— y más de 150 modelos operativos vía vLLM. El director de producto Paul Turner rechazó la facturación por tokens y reivindicó el modelo de infraestructura privada como alternativa planificable, con datos del Private Cloud Outlook 2026 según el cual el 56 % de las empresas opera o prevé inferencia de IA productiva en nube privada.