Anthropic ha revelado que su modelo Claude Mythos Preview logró portar su software a las GPUs AMD MI355X en aproximadamente tres días, una tarea que históricamente requería de seis a 12 meses y un equipo de decenas de ingenieros. Esta afirmación, presentada a inversores durante su ronda de oferta pública inicial (IPO), sugiere que la barrera de entrada para integrar modelos de IA en hardware de AMD se ha reducido drásticamente, erosionando la ventaja competitiva de Nvidia basada en su plataforma CUDA.
Tom Brown, cofundador y director de cómputo de Anthropic, explicó que el proceso implicó el procesamiento de prompts para un solo modelo en GPUs AMD MI355X a un nivel de rendimiento útil, con la intervención humana mínima. La empresa ya opera sus modelos en chips de Nvidia, AMD, TPUs de Google y Trainium de AWS, gestionando su infraestructura como un pool de cómputo fungible. Brown describió la decisión de adoptar múltiples plataformas como una apuesta no convencional, pero potencialmente acertada, dado que Google y Meta ya utilizan TPUs nativamente para ejecutar modelos de IA.
El contexto técnico destaca la madurez de CUDA, que lleva casi dos décadas, frente a ROCm de AMD. Aunque AMD ha argumentado que la IA puede generar código de bajo nivel, las declaraciones de Jensen Huang de Nvidia indican que su arquitectura sigue siendo superior para optimizar sus propios chips. No obstante, la capacidad de Claude para escribir casi el 100% de los kernels de forma autónoma plantea un desafío significativo para el ecosistema de Nvidia, que ha estado centrado en la optimización manual de su software.
