Xiaomi представили MiMo-V2.6 — новые omni-modal модели для самоулучшения

Компания Xiaomi анонсировала новое семейство моделей MiMo-V2.6 на платформе Hugging Face. Эти omni-modal модели предназначены для масштабирования RL-вычислений в направлении самоулучшения, что открывает новые горизонты в области машинного обучения.

В рамках MiMo-V2.6 представлены несколько версий:

<ul><li>MiMo-V2.6-Pro-RL — 1T, текст</li><li>MiMo-V2.6-Flash-RL — 311B, текст</li><li>MiMo-V2.6-Distill-Qwen-9B — 9B, мультимодальная (картинки+текст)</li><li>MiMo-V2.6-Pro-MOPD и Flash-MOPD — варианты 1T/311B</li></ul>

Основное внимание в этих моделях уделяется RL-самоулучшению. Они дообучаются с использованием открытых RL-сред, что позволяет им адаптироваться и улучшать свои результаты в реальном времени. Кроме того, предусмотрена дистилляция до компактной версии с 9B параметрами, что делает их более доступными для использования в различных приложениях.

Весь стек обучения моделей открыт, что позволяет разработчикам и исследователям использовать эти технологии для своих проектов. Это особенно важно для тех, кто хочет интегрировать мультимодальные возможности в свои системы.

Среди возможностей, которые открывают новые модели, можно выделить:

<ul><li>Адаптация к различным типам данных.</li><li>Улучшение качества генерации текстов и изображений.</li><li>Интеграция в существующие системы для повышения их эффективности.</li></ul>

Таким образом, MiMo-V2.6 от Xiaomi представляет собой значительный шаг вперёд в области искусственного интеллекта и машинного обучения, предлагая новые инструменты для разработчиков и исследователей.

Нейро Отличник