Alexi Gladstone presenta Explorative Modeling, un nuevo paradigma de modelado generativo que actúa como tercer eje de preentrenamiento cuando se suma a modelos existentes y permite, además, una generación de extremo a extremo. La propuesta se basa en la teoría del Mode Forcing, según la cual todo el modelado generativo moderno consiste en diseñar un objetivo de entrenamiento cuyo minimizador de pérdida caiga sobre datos reales en lugar de entre ellos, algo que la factorización de la generación y la exploración consiguen de dos formas distintas.
En la práctica, un Explorative Model (XM) genera K candidatas por muestra durante el entrenamiento y solo la mejor recibe gradiente, mediante un sencillo bucle. Aumentar la exploración K mejora de forma monótona el rendimiento en imágenes, vídeo y lenguaje, con ganancias que crecen al escalar: del 7% al 36% con más datos y del 13% al 23% con más parámetros. Concretamente, los XMs logran 6,2 veces más eficiencia en muestras, 4,1 veces más eficiencia en FLOPs y un 47% más de eficiencia en parámetros. La exploración también mejora la escalabilidad de la generalización y permite ajustar el grado de extremo a extremo del modelo.
Como modelos generativos extremo a extremo, los XMs igualan a los modelos de difusión en tareas de control con hasta 256 veces menos cómputo de inferencia. El artículo incluye además una crítica al problema del sesgo de exposición inherente a la factorización de la generación y un recorrido pedagógico por analogías (dianas, perros y texto) para explicar por qué predecir directamente datos multimodales produce promedios borrosos en lugar de muestras realistas. El proyecto cuenta con página web y repositorio público.