Netflix ha desarrollado Pensive AI, un sistema de diagnóstico automático de fallos que integra inteligencia artificial en su plataforma de datos para reducir el tiempo de ingeniería y el coste de cómputo. Ante el problema de que aproximadamente el 50% de los errores no podían clasificarse con las reglas estáticas previas, el equipo técnico diseñó una solución que combina procesos deterministas con modelos de lenguaje grandes (LLM) para extraer errores útiles y proporcionar guías de remediación.
El sistema opera en paralelo con el proceso de extracción de errores determinista, permitiendo una cobertura del 100% de los fallos. Para optimizar la latencia y el coste, Pensive AI no transcribe el texto completo de las peticiones, sino que identifica las líneas específicas del error mediante registros de número de línea y texto, reconstruyendo el contenido original para evitar alucinaciones. Esta arquitectura permite que el sistema responda en menos de 90 segundos, cumpliendo con los límites de tiempo de procesamiento de Maestro, el orquestador de flujos de trabajo de Netflix.
La implementación sigue un enfoque gradual para garantizar la compatibilidad con clientes existentes. Se mantuvieron dos modelos de datos simultáneamente: uno legado para errores extraídos por reglas y otro nuevo para los errores extraídos por IA. La interfaz de usuario Data Portal prioriza los errores de IA cuando están disponibles, mientras que otros clientes como el editor de SQL o los notebooks de Jupyter continúan utilizando el camino legado hasta que se actualicen sus esquemas. Los resultados iniciales muestran una mejora significativa en la exploración manual de logs, con un aumento del 321% en las acciones de depuración en intentos de paso fallidos donde no se utilizó la IA, frente a los casos donde sí se aplicó, lo que valida la utilidad del sistema para la triaje de fallos complejos.