ComposeCL: исследование памяти языковых моделей

Недавно было проведено исследование, посвященное тому, как языковые модели могут запоминать информацию, поступающую последовательно, и сохранять её даже после множества обновлений. Это важная тема, так как традиционное дообучение на новых задачах часто приводит к потере старых знаний. В рамках проекта ComposeCL исследователи проверили, какие комбинации механизмов продолжающегося обучения работают наиболее эффективно.

В ходе систематического тестирования было изучено 16 комбинаций 4 различных механизмов: якорь данных (генеративный реплей), якорь функции (самодистилляция), якорь весов (Synaptic Intelligence) и merged LoRA. Результаты показали, что лучшая комбинация всех трех якорей вместе с merged LoRA обеспечивает среднее финальное удержание на уровне 34.9%, что значительно превышает 1.2% у наивного обучения.

Наибольший прирост в удержании знаний был достигнут при использовании якоря данных и merged LoRA. Это подчеркивает важность комбинирования различных подходов для достижения наилучших результатов в обучении языковых моделей.

Таким образом, выводы исследования показывают, что для создания долгоживущих агентов не следует ограничиваться одним механизмом. Комбинирование нескольких комплементарных подходов может значительно улучшить эффективность работы языковых моделей.

Для более подробной информации о современных подходах в области нейросетей и архитектурной визуализации, посетите наш сайт Нейро Отличник.

Нейро Отличник