OpenAI presentó esta semana en la conferencia Hot Chips los primeros resultados de rendimiento de Jalapeño, su chip de inferencia de inteligencia artificial desarrollado en colaboración con Broadcom. Las pruebas, realizadas con el benchmark InferenceX de Semianalysis, muestran que el procesador supera a los sistemas insignia de Nvidia —los superchips GB200 y GB300 de la familia Blackwell— en eficiencia energética y velocidad de respuesta, un resultado excepcional tratándose de un diseño de primera generación.
Según Richard Ho, vicepresidente de hardware de OpenAI, Jalapeño ofrece "lo mejor de ambos mundos": baja latencia y alto rendimiento simultáneamente, una combinación que обычно obliga a los sistemas de IA a elegir entre una y otra. En concreto, OpenAI afirma que el chip entrega entre 1,5 y 1,9 veces más trabajo de IA por vatio en modelos como GPT-OSS 120B, DeepSeek R1 y Kimi K2.5 1T, mientras reduce la latencia de extremo a extremo entre 1,7 y 3,6 veces respecto a los sistemas de comparación.
El análisis independiente de Semianalysis, que tuvo acceso al chip en los laboratorios de OpenAI y pudo ejecutar sus propias pruebas, corrobora y amplifica estas cifras. La publicación señala que Jalapeño supera a todos los chips de Nvidia, AMD y Google evaluados en múltiples modelos open source, destacando especialmente su rendimiento por vatio en escenarios de alta concurrencia y baja latencia. En pruebas con DeepSeek R1, el chip alcanzó más de 700 tokens por segundo por usuario con un nivel de concurrencia de 1, una cifra que refleja una capacidad de respuesta interactiva notable.
Uno de los aspectos más llamativos es que OpenAI logró estos resultados sin recurrir a técnicas habituales en la industria como la predicción multi-token, la decodificación especulativa o la desagregación entre las fases de prefill y decode. Además, contradiciendo algunas lecturas iniciales, Semianalysis aclara que Jalapeño no es un chip altamente especializado para los modelos de OpenAI, sino un procesador de inferencia de propósito general capaz de ejecutar una amplia variedad de arquitecturas y cargas de trabajo.
El desarrollo del chip fue inusualmente rápido: el equipo comenzó a contratarse a mediados de 2024 y alcanzó la fase de tape-out en aproximadamente 16 meses, un ciclo extraordinariamente corto para un ASIC de esta complejidad. Semianalysis atribuye esta velocidad al uso intensivo de IA en el propio proceso de diseño —los propios modelos de OpenAI habrían asistido en el desarrollo— combinado con decisiones de ingeniería pragmáticas y un equipo altamente capacitado.
En cuanto a la arquitectura, Jalapeño incorpora memoria HBM4, lo que lo sitúa al nivel de las GPUs más avanzadas de Nvidia y AMD. OpenAI explica que el chip fue diseñado para minimizar el movimiento de datos y los retrasos de comunicación, dos cuellos de botella frecuentes en la inferencia. Para ello, el estado del modelo, incluida la caché KV, puede ubicarse y mantenerse de forma local mientras el sistema activa la combinación adecuada de cómputo, memoria y redes para cada fase de la inferencia.
Sobre los plazos de despliegue, Ho estimó que Jalapeño estará disponible "en volúmenes muy pequeños" a finales de 2026, con un despliegue más significativo a lo largo de 2027. La compañía no ha precisado cuántas unidades producirá el próximo año. Ho también aclaró que OpenAI no pretende reemplazar toda su línea de chips con Jalapeño y que Nvidia seguirá siendo un socio importante en su estrategia global de cómputo.
OpenAI ya trabaja en la segunda y tercera generación de este chip, con el objetivo de convertirlo en una plataforma multigeneracional donde modelos, software, chips y memoria evolucionen de forma coordinada. Un detalle anecdótico que ilustra la versatilidad del diseño: los ingenieros de OpenAI mostraron a Semianalysis el chip ejecutando el videojuego Doom, portado mediante prompts a Codex.
Aunque los resultados son prometedores, cabe señalar que la comparación se realizó contra los sistemas Nvidia Blackwell disponibles actualmente. Para cuando Jalapeño alcance un despliegue masivo en 2027, la competencia probablemente habrá avanzado con nuevas generaciones de hardware, por lo que la ventaja relativa de OpenAI deberá reevaluarse en su momento.