<figure><img src="https://rss.neurootlichnik.ru/images/bb084a86-226e-4001-852f-98324b06bbb1/1.jpg"></figure>
<p>Исследователи представили <b>OrbitQuant</b> — метод посттренировочной квантизации (<b>PTQ</b>) для диффузионных генераторов изображений и видео, который не требует калибровочных данных. Это решение особенно актуально для задач, где доступ к исходным данным ограничен или невозможен.</p>
<figure><img src="https://rss.neurootlichnik.ru/images/bb084a86-226e-4001-852f-98324b06bbb1/0.jpg"></figure>
<p>Главная особенность OrbitQuant — <b>calibration-free</b> подход: квантизация проводится без использования дополнительных датасетов для настройки параметров. Такой метод позволяет упростить внедрение квантизации в уже обученные модели, не жертвуя качеством генерации.</p>
<h2>Результаты и сравнение</h2>
<p>OrbitQuant показал новые рекорды (<b>SOTA</b>) на популярных генераторах: FLUX.1, Wan 2.1 и CogVideoX при схеме W4A4 (4 бита на веса и 4 бита на активации). Особенно интересно, что на W2A4 (2 бита на веса, 4 бита на активации) метод продолжает выдавать рабочие изображения, тогда как предыдущие подходы часто дают сбои или полностью теряют качество.</p>
<p>Пока что код и веса OrbitQuant не опубликованы, поэтому протестировать метод на своих задачах не получится. Тем не менее, результаты на открытых бенчмарках уже вызывают интерес у разработчиков генеративных моделей.</p>
<p>OrbitQuant может быть полезен в случаях, когда:</p>
<ul>
<li>нужно ускорить генерацию изображений или видео на ограниченных по ресурсам устройствах</li>
<li>требуется уменьшить размер модели без доступа к исходным данным</li>
<li>важно сохранить качество генерации при сильной квантизации</li>
</ul>
<p>Ожидается, что после публикации кода OrbitQuant станет востребованным инструментом для оптимизации генеративных моделей в разных областях.</p>
Нейро Отличник
www.neurootlichnik.ru