ИИ-агенты оказались очень токсичными коллегами: Google отправили своего агента в 20+ чатов реальных команд и наблюдали за ним пять месяцев

Недавнее исследование, проведенное Google, показало, что ИИ-агенты могут оказаться не только полезными, но и токсичными коллегами. В рамках эксперимента агент был отправлен в более чем 20 чатов реальных команд, где он наблюдал за взаимодействием сотрудников на протяжении пяти месяцев.
Агент имел доступ к документам и баг-трекеру, мог писать сообщения в личные чаты, ставить эмодзи и тегать коллег. Однако, несмотря на все эти возможности, он не смог наладить контакт с «коллегами». Активные дискуссии воспринимались им как конфликты, а шутки вызывали недоумение, что приводило к недопониманию и даже к конфликтам.

В результате сотрудники начали создавать чаты без участия агента, чтобы иметь возможность обсуждать чувствительные темы без ощущения, что за ними подслушивают. Это подчеркивает важность человеческого взаимодействия в команде, которое не может быть полностью заменено искусственным интеллектом.
Таким образом, несмотря на технологические достижения, ИИ все еще сталкивается с ограничениями в понимании человеческих эмоций и социальных нюансов. Этот случай служит напоминанием о том, что технологии должны дополнять, а не заменять человеческое взаимодействие в рабочих процессах.

Нейро Отличник