Netflix rediseña Conductor para escalar a 420 millones de ejecuciones mensuales

Fuentes: Netflix rebuilds Conductor to handle 420 million monthly workflow executions

Netflix ha documentado la evolución interna de Conductor, su motor de orquestación de microservicios, tras discontinuar el mantenimiento de la versión de código abierto. La herramienta, que ahora opera como un fork interno, ha experimentado un crecimiento exponencial, pasando de cientos de definiciones de flujos de trabajo a aproximadamente 200.000 definiciones gestionadas por 150 aplicaciones. En un mes típico, Conductor ejecuta 420 millones de flujos de trabajo, con picos diarios de entre 5 y 20 millones, impulsado por la demanda de escalar la producción de contenido, publicidad y juegos.

Para sostener este volumen, Netflix ha modernizado por completo su infraestructura de datos. La primera generación, basada en Dynomite y DynoQueues, presentaba limitaciones de escalabilidad y problemas de consistencia de estado. La versión 2.0 reemplazó el almacén de datos por Cassandra para permitir escalabilidad horizontal elástica y sustituyó la cola de trabajo por Timestone, un sistema de colas de bajo latencia con mecanismos de reparación automática. La versión 3.0 consolidó esta arquitectura, integrando un indexador alimentado por Kafka y almacenamiento en Iceberg, además de habilitar despliegues multi-clúster aislados.

Actualmente, Conductor es el núcleo de la Media Production Suite (MPS), que ingiere y procesa 200 terabytes de archivos de cámara por título, así como de las pipelines de Netflix Ads y Netflix Games. Esta reingeniería técnica ha permitido a la plataforma mantener la fiabilidad y la observabilidad necesarias para orquestar procesos distribuidos de larga duración en un entorno de alta concurrencia.