El entrenamiento de modelos de inteligencia artificial está redefiniendo la infraestructura de las redes de centros de datos, obligando a abandonar los patrones de tráfico tradicionales de norte a sur por comunicaciones intensivas este-oeste entre miles de GPUs. A diferencia del hosting web tradicional, donde una pequeña latencia es aceptable, el aprendizaje profundo requiere una sincronización estricta. Si un paquete se pierde, miles de aceleradores se detienen, haciendo que la red deje de ser un simple soporte para convertirse en un componente crítico que determina la utilización de los aceleradores. Para manejar flujos de datos masivos que saturan los buffers, la industria ha recurrido a soluciones propietarias como InfiniBand de NVIDIA. Sin embargo, el Ultra Ethernet Consortium surge como una alternativa para reingeniar el Ethernet, utilizando técnicas como el 'spraying' de paquetes y el balanceo de carga dinámico. Estas innovaciones buscan reducir la latencia de cola y el bloqueo de líneas, permitiendo escalas más grandes sin el costo de las redes propietarias.
IA redefiniendo las redes de centros de datos
