Un análisis reciente de modelos de lenguaje de difusión revela que la variabilidad en el costo computacional de la generación de texto no es aleatoria, sino que depende estructuralmente de la naturaleza de la tarea y el idioma. Los investigadores examinan dos modelos de difusión a través de diez tareas distintas para determinar los factores subyacentes de esta fluctuación en el número de pasos de inferencia necesarios por token. Los resultados indican que la generación de texto copiado o ligeramente editado es significativamente más económica que la escritura abierta, donde el modelo debe crear contenido nuevo. En el modelo DiffusionGemma, por ejemplo, la generación de un token para escritura de historias requiere más de tres veces más pasos de inferencia que la corrección gramatical. Dos propiedades de la salida explican gran parte de esta brecha: el grado de novedad relativa al input y la rareza de las palabras dentro de la tarea. Este patrón se mantiene incluso dentro de una única respuesta cuando se involucra el razonamiento; la respuesta final es barata si repite la trazada de razonamiento del modelo, pero costosa si añade algo nuevo. En la generación multilingüe, los idiomas altamente tokenizados también requieren más pasos por token, añadiendo al costo ya existente de más tokens. Finalmente, el estudio demuestra que el costo computacional se correlaciona con la corrección: en problemas matemáticos, las respuestas incorrectas toman más pasos por token que las correctas. Ponderar las respuestas candidatas por velocidad de decodificación supera al voto de mayoría en hasta 4.2 puntos sin coste adicional. Estos hallazgos sugieren que la ventaja computacional de la difusión depende de cuánto de la salida ya está determinada, ofreciendo una señal práctica para hacer la inferencia más eficiente y fiable.
