Сеня и Даня: Водяные знаки в AI-контенте

Недавно OpenAI представила новую технологию, которая добавляет невидимые водяные знаки в текст, сгенерированный их моделями. Этот механизм, названный textGrain, не является обычными метаданными, которые исчезают при копировании текста. Вместо этого, он встраивается в статистику генерации, изменяя вероятность выбора слов в ответах модели. Это позволяет детекторам распознавать характерные паттерны, что может быть полезно для определения источника текста.
Данная инициатива была внедрена в рамках требований EU AI Act, что подчеркивает важность маркировки AI-контента в Европе. Это нововведение может повлиять на студентов и других пользователей, которые используют AI для написания курсовых и других работ. Теперь они могут столкнуться с трудностями, если их тексты будут распознаны как сгенерированные AI.

Однако возникает вопрос: как будет работать textGrain в сочетании с другими моделями, которые могут переписывать текст? Если, например, переписать текст, сгенерированный ChatGPT, с помощью другой модели, то исходная последовательность токенов может исчезнуть, что, в свою очередь, может снизить эффективность водяного знака. На данный момент нет достаточного количества независимых тестов, чтобы подтвердить или опровергнуть это предположение.
Скорее всего, вскоре появятся сервисы, предлагающие удаление водяных знаков из текстов, сгенерированных AI. Это может привести к новым вызовам в области интеллектуальной собственности и авторских прав, так как такие технологии могут использоваться для обхода систем проверки оригинальности.
Таким образом, внедрение водяных знаков в AI-контент открывает новые горизонты в вопросах идентификации и контроля за сгенерированным контентом. Важно следить за развитием этой технологии и ее влиянием на различные сферы, включая образование и творчество.

Нейро Отличник