Un laboratorio de dos personas entrena un modelo de imagen por 21.000 dólares

Fuentes: Two-person lab trains image model for $21K in experimental release

Un laboratorio de investigación de dos personas ha publicado un modelo de generación de imágenes entrenado con un coste de 21.000 dólares, presentándolo como una prueba de concepto hacia sus futuros modelos de video. El equipo, que desarrolla sus propios modelos generativos desde cero, destaca que los modelos actuales de video sufren de lentitud, alto coste y falta de control, lo que los hace inútiles para la narrativa creativa. Para abordar esto, han implementado la arquitectura Pyramid-JiT (P-JiT), un modelo de espacio de píxeles que reduce la ventana de contexto de atención mediante una compresión más agresiva que los codificadores variacionales estándar. Este enfoque permite que el modelo converja en 11 veces menos muestras que la versión anterior (Linum v2) y represente imágenes de 512x512 píxeles con la misma cantidad de tokens que una imagen de 256x256. El entrenamiento, que utilizó aproximadamente 600 millones de muestras, incorporó un esquema de ruido curricular y técnicas de post-entrenamiento como la optimización de flujo de diferencias finitas. Aunque el resultado inicial fue sorprendente por su calidad, el equipo reconoce limitaciones, como la incapacidad para generar texto o gráficos, y señala que la disciplina de post-entrenamiento en modelos de difusión sigue en sus inicios, a diferencia de la optimización de modelos de lenguaje.