Un equipo de investigación ha establecido una correspondencia matemática formal entre los árboles de decisión jerárquicos y los procesos de difusión, dos familias de modelos de aprendizaje automático que hasta ahora se consideraban dispares. El trabajo, titulado "Trees to Flows and Back: Unifying Decision Trees and Diffusion Models", se publicó en arXiv y propone un principio de optimización compartido que conecta ambas aproximaciones.
La investigación parte de una observación conceptual: los árboles de decisión son discretos y jerárquicos, mientras que los modelos de difusión son continuos y dinámicos. A pesar de estas diferencias, los autores demuestran que, en regímenes límite apropiados, los procesos de difusión pueden representar las particiones sucesivas que realiza un árbol de decisión. Esta unificación da lugar a un marco común denominado Global Trajectory Score Matching (GTSM), un principio de optimización para el cual el gradient boosting, en una versión idealizada, resulta asintóticamente óptimo.
La relevancia práctica del marco se concreta en dos aplicaciones. La primera es treeflow, un modelo generativo para datos tabulares que, según los autores, alcanza una calidad de generación competitiva con mayor fidelidad y el doble de velocidad computacional frente a alternativas previas. La segunda, dsmtree, es un método de destilación que transfiere la lógica jerárquica de un árbol de decisión a una red neuronal. En pruebas con diversos benchmarks, dsmtree iguala el rendimiento del modelo docente con una diferencia inferior al 2%.
El artículo tiene implicaciones tanto teóricas como aplicadas. En el plano teórico, ofrece una base matemática para tratar métodos tradicionalmente considerados opuestos dentro de un mismo formalismo, lo que abre la puerta a nuevas técnicas de análisis y optimización. En el plano aplicado, la unificación sugiere que es posible aprovechar las garantías de interpretabilidad de los árboles de decisión junto con la flexibilidad de los modelos continuos, por ejemplo destilando conocimiento simbólico en redes neuronales para escenarios donde se requieran simultáneamente eficiencia y explicabilidad.
Entre las consideraciones pendientes, el trabajo no detalla exhaustivamente las condiciones bajo las cuales la equivalencia asintótica se mantiene fuera de los regímenes límite analizados, y la evaluación de dsmtree se concentra en benchmarks estándar, por lo que será necesario explorar su comportamiento en dominios con datos ruidosos o de alta dimensionalidad. Aun así, la propuesta constituye uno de los primeros intentos sistemáticos de tender un puente formal entre dos de las metodologías más extendidas en el aprendizaje automático.