Лесть нейросетей объявили чрезвычайно опасной для людей
Новое поколение моделей искусственного интеллекта приобрело дурную славу из-за своей подобострастной, приторной и угодливой манеры общения с людьми. В новом исследовании сделан вывод: эта тенденция не просто раздражает — она представляет реальную угрозу для уязвимых категорий пользователей.
Если вам доводилось общаться с чат-ботами последнего поколения, созданными на базе больших языковых моделей (LLM) — например, с ChatGPT или Claude, — вы могли заметить, что они порой бывают чрезмерно расточительными на комплименты. И это вовсе не случайность. Склонность чат-ботов к подобострастию возникла как естественный побочный эффект их архитектуры, где приоритет отдавался благожелательности и вежливости ответов. Проблемы начинаются тогда, когда эта тенденция заходит слишком далеко.
При общении с ИИ взгляд человек на себя искажается.© Freepik
Компании OpenAI пришлось решать эту проблему буквально в прошлом году, когда пользователи забили тревогу по поводу обновления GPT-4o: выяснилось, что после апдейта модель стала «склоняться к ответам, которые были чрезмерно поддерживающими, но при этом неискренними». В компании признали, что подобное взаимодействие может вызывать у пользователей «чувство дискомфорта, тревоги и эмоционального напряжения». Инженеры уже назвали это подобострастие «тёмным паттерном» больших языковых моделей. Этим термином обозначают элементы интерфейса, которые вводят пользователей в заблуждение или обманывают их.
В этом и заключается отличие от хороших человеческих отношений. Человек вам прямо скажет, что ваши действия идут вам во вред, или что вам нужно взять себя в руки. Поэтому общение с ИИ плохо согласуется с тем, как люди эволюционно приспособлены общаться и выстраивать отношения друг с другом. Так, в ходе трёх различных экспериментов исследователи выяснили, что «социальный подхалимаж оказывает влияние на суждения участников и их поведенческие установки». Те, кто взаимодействовал с ботами, склонными к лести, чаще считали себя правыми — независимо от того, как они вели себя на самом деле. По мнению авторов, проблему лести непременно должны учитывать как разработчики, так и государственные деятели, осмысливающие ту роль, которую эта технология продолжает играть в нашем обществе.