OpenAI diseña su chip Jalapeño con sus propios modelos de IA

OpenAI ha revelado que utilizó sus propios modelos de lenguaje grandes (LLM) para acelerar el diseño de Jalapeño, su primer chip de aceleración de IA, logrando pasar de la primera arquitectura a la fabricación en menos de 20 meses. El chip ofrece hasta 13,4 petaflops de cómputo de 4 bits y reduce la latencia de extremo a extremo hasta 3,6 veces más que el GB300 de Nvidia, consumiendo menos energía. La colaboración con Broadcom se centró en la división de tareas: OpenAI gestionó el diseño de sistema y Broadcom el diseño físico. El equipo de diseño, con menos de 100 personas, aprovechó herramientas de síntesis de alto nivel como XLS, que permiten escribir código en lenguajes de programación tradicionales. Expertos señalan que la integración de LLMs en la automatización del diseño de chips es una tendencia creciente, permitiendo iteraciones más rápidas. Además, los modelos de IA de OpenAI optimizaron el software para ejecutar benchmarks, mejorando el rendimiento de un 0,31% al 88,94% de la capacidad teórica del chip en 40 horas. Este enfoque reduce el tiempo entre la entrega de chips por la foundry y el inicio de la producción, consolidando la ventaja competitiva de la empresa en la infraestructura de inferencia.