Un intern de investigación de Jane Street ha desarrollado un modelo de difusión autoregresiva para generar datos de mercado financieros, un enfoque que combina la predicción de precios con la síntesis de eventos de libro de órdenes. A diferencia de los modelos generativos tradicionales, este sistema no solo estima el precio futuro de un activo, sino que sintetiza la secuencia completa de eventos, incluyendo el momento exacto de su llegada a la bolsa, lo que permite una simulación con mayor textura y realismo.
El proyecto, basado en cuatro años de datos de acciones de EE. UU., aborda la complejidad de los datos de mercado, que presentan características tanto discretas (como la estructura del micromercado y las transacciones) como continuas (como los precios y los tiempos de llegada). El modelo utiliza una arquitectura de codificador-difusor con un transformador causalmente enmascarado para producir embeddings latentes. Durante la inferencia, el sistema predice primero el tipo de evento (compra/venta o actualización de mejor oferta/precio) y luego genera las características continuas mediante una cabeza de difusión.
Un hallazgo técnico clave fue que los modelos de difusión probabilística denoising (DDPM) resultaron inestables, generando trayectorias de denoising que divergían rápidamente y producían valores extremos. En contraste, los modelos de ajuste de flujo (flow matching) demostraron una estabilidad superior, permitiendo una integración precisa en menos pasos. Además, el intern identificó que los datos de mercado no son puramente continuos ni discretos, sino que presentan discontinuidades agudas, como picos en la distribución de tiempos de llegada y precios. Para resolver esto, se implementó una cabeza categórica de 20 clases que fragmenta las actualizaciones de BBO en categorías específicas, lo que permite tratar las discontinuidades como clases propias y simplifica los objetivos de difusión, mejorando la precisión del modelo final.