Netflix integra su modelo de base en personalización mediante embeddings y subgráficos

Fuentes: Netflix integrates its foundation model into personalization via embeddings and subgraphs

Netflix ha desarrollado un modelo de base (foundation model) para centralizar el aprendizaje de preferencias de usuarios y distribuir esos conocimientos a sus sistemas de recomendación. Este artículo técnico detalla las tres estrategias principales utilizadas para integrar este modelo en aplicaciones de producción: embeddings, subgráficos y ajuste fino (fine-tuning). La elección de la estrategia depende de los requisitos de latencia, las restricciones técnicas y el nivel de aprovechamiento deseado por cada equipo.

El enfoque de embeddings es la solución inicial más común. Consiste en generar representaciones de perfiles y elementos que se almacenan en un 'Embedding Store'. Este método ofrece una baja barrera de entrada y reduce los costos de entrenamiento, aunque su principal limitación es la obsolescencia de los datos, ya que existe un retraso entre la generación de los embeddings y la inferencia del modelo de aplicación. Para mitigar esto, Netflix ha implementado un marco de generación de embeddings casi en tiempo real que permite actualizar las representaciones basándose en acciones de usuario durante la sesión.

El enfoque de subgráfico ofrece una integración más profunda. En este caso, el modelo de base actúa como un subgráfico dentro del grafo completo del modelo de aplicación. Esto elimina el retraso de latencia, permitiendo que las aplicaciones utilicen el aprendizaje más actualizado en tiempo real. Sin embargo, esta solución añade complejidad computacional y aumenta el tamaño de inferencia, lo que requiere optimizaciones específicas, como ejecutar el subgráfico solo una vez por perfil por solicitud. Ambas estrategias permiten a Netflix equilibrar la eficiencia operativa con la capacidad de personalización avanzada de su plataforma.