La edición 2026 de CVPR ha puesto en tela de juicio los componentes estándar del aprendizaje profundo. Cinco trabajos clave atacan desde la periferia hasta el núcleo de las arquitecturas actuales. BinaryAttention demuestra que la atención con cuantización de 1 bit es más rápida que FlashAttention2 y mantiene la precisión, desafiando la necesidad de precisión flotante. SegQuant automatiza la cuantización para cualquier arquitectura de difusión, eliminando el ajuste manual. JiT, de Kaiming He, revela que predecir imágenes limpias en lugar de ruido es geométricamente superior para modelos de difusión. BiFlow prescinde de la invertibilidad exacta en flujos normalizadores, logrando generación paralela y dos órdenes de magnitud más rápida. Derf sustituye la normalización por una función erf, superando a LayerNorm y RMSNorm en visión, audio y genómica. Estos resultados sugieren que muchas 'piezas estándar' no son esenciales y su eliminación mejora el rendimiento.
CVPR 2026: desmontan las piezas estándar del aprendizaje profundo
Fuentes:
CVPR 2026：深度学习的「标准件」，正在被逐个拆掉
