VC-Attention: Ускорение генерации видео с Nunchux AI

VC-Attention — это новая технология, которая значительно ускоряет процесс генерации видео, достигая коэффициента 1.7x по сравнению с предыдущими методами. Разработанная командой Nunchux AI, эта технология решает проблему стандартного внимания в диффузионных трансформерах, которое замедляет процесс из-за вычислений в FP32 и множества лишних операций.

<video><source src="video_url_here" type="video/mp4"/></video>
Одной из ключевых особенностей VC-Attention является использование V-Smooth, который группирует похожие токены и снижает ошибку квантования значений. Также применяется ExpCast-FP8, который позволяет напрямую переводить результаты из FP32 в FP8, что также способствует ускорению.

На графических процессорах RTX 5090 технология Wan2.2 показала ускорение в 3.58 раза, а полная генерация видео — в 1.7 раза. Тестирование проводилось на нескольких моделях, включая LongCat-Video, HunyuanVideo-1.5 и MiniMax-H3.
Кроме того, Nunchux Attention — это проприетарное расширение VC-Attention, которое ускоряет работу с MiniMax-H3 в 1.91x по сравнению с BF16 FlashAttention-4 на B200.
Бесплатный доступ к технологии H3 обещают открыть в ближайшее время, и пользователи могут записаться в вейтлист, чтобы первыми узнать о новинках.
Благодарим @Endorpheen за информацию.
Для получения дополнительной информации и новостей о технологиях, связанных с архитектурной визуализацией, посетите наш сайт.

Нейро Отличник