QuadTok: Tokenizador jerárquico para generación de imágenes autoregresiva

Fuentes: QuadTok: Hierarchical Quadtree Tokenizer for Autoregressive Image Generation

QuadTok es un marco de software diseñado para la tokenización visual y la generación de imágenes autoregresiva, que introduce una estructura jerárquica de árbol de cuadrantes (quadtree) para superar las limitaciones de las grillas bidimensionales fijas. A diferencia de los métodos tradicionales que utilizan secuencias lineales o mallas 2D rígidas, QuadTok asigna dinámicamente la capacidad representacional a las áreas visualmente complejas, manteniendo una resolución gruesa en regiones homogéneas. Este enfoque permite ahorrar aproximadamente el 10% de tokens en el conjunto de datos ImageNet y el 9% en COCO, manteniendo una fidelidad de reconstrucción comparable a la de las grillas de 256 tokens fijos.

La estructura de árbol introduce una causalidad natural que facilita la generación de imágenes autoregresiva. Al condicionar el proceso con una topología de árbol proporcionada antes de la generación, un modelo generativo de estilo GPT con 947 millones de parámetros logra una puntuación de 2.08 gFID en el benchmark de ImageNet de 256x256 píxeles. Además, la fuerte correlación espacial preservada por la estructura de QuadTok habilita capacidades de generación de imágenes controladas espacialmente de forma cero-shot. El proyecto incluye código disponible en GitHub, posicionándose como una herramienta técnica para investigadores en visión por computadora que buscan optimizar la eficiencia computacional y la calidad en la síntesis de imágenes.