Чем больше мы общаемся с ИИ, тем удобнее становимся для машин: учёные описали новый эффект

«И если ты долго смотришь в бездну, то бездна тоже смотрит в тебя».

Фридрих Ницше, «По ту сторону добра и зла»

Когда Ницше писал эту фразу, искусственного интеллекта, разумеется, не существовало. Но спустя почти полтора века метафора неожиданно обрела технологический смысл.

Мы годами учим машины понимать людей. Искусственный интеллект распознаёт нашу речь, запоминает предпочтения, предсказывает желания, пишет письма в нашем стиле и подбирает ответы с учётом предыдущих разговоров.

Но что, если этот процесс работает в обе стороны?

Трое исследователей — Сельчен Озтюркджан, Жан-Поль де Крос Перонар и Инджи Торал-Мэнсон — предлагают обратить внимание именно на это. В статье «Robotoid humanness: when selfhood becomes machine-legible», опубликованной 19 августа в научном журнале AI & Society, они вводят понятие robotoid humanness, которое можно перевести как «роботоидная человечность».

Речь вовсе не о том, что человек начинает говорить металлическим голосом или теряет эмоции. Идея гораздо тоньше: взаимодействуя с алгоритмами, мы можем постепенно учиться быть более понятными, предсказуемыми и удобными для машины.

Машина сначала изучает нас. Потом мы начинаем изучать машину

Это легко заметить даже при обычном разговоре с чат-ботом.

Представьте, что человек впервые обращается к ИИ примерно так:

«Я вообще не понимаю, что делать с работой. Вроде всё нормально, но надоело, начальник бесит, уходить страшно, денег хочется больше, но вдруг я потом пожалею».

Ответ может оказаться расплывчатым.

После нескольких попыток пользователь учится писать иначе:

«Проанализируй мою ситуацию. Дай пять аргументов за увольнение, пять против, перечисли основные риски и предложи план действий на ближайшие три месяца».

Человек быстро понимает: чем яснее структура, чем меньше противоречий и чем точнее сформулирована задача, тем эффективнее работает машина.

Само по себе это полезный навык. Но авторов исследования интересует другой вопрос: что происходит, если такая адаптация становится постоянной?

ИИ должен научиться понимать человека. Однако одновременно человек учится формулировать себя таким образом, чтобы его лучше понял ИИ.

Исследователи предполагают, что при многократном повторении этот механизм может выйти за пределы отдельных запросов. Мы начинаем привыкать к ясности, последовательности и классифицируемости — именно к тем свойствам, с которыми алгоритмам проще всего работать.

У машины есть своя версия вас

Есть ещё одна проблема.

Любой человек знает себя через историю собственной жизни.

Мы можем одновременно считать себя осторожными и помнить момент, когда совершили совершенно безумный поступок. Можем говорить, что не любим путешествовать, но однажды внезапно уехать на другой конец света. Можем изменить профессию, музыкальные вкусы или решение, которое ещё вчера казалось окончательным.

Человеческая личность полна противоречий.

Алгоритму такая сложность не особенно нужна.

Его задача обычно гораздо практичнее — предположить, что человек купит, посмотрит, нажмёт, выберет или скажет дальше.

Философы Йенс Кристиан Бьерринг и Якоб Буш предложили для возникающей здесь цифровой версии человека понятие «статистический индивид». Эту идею они подробно разбирают в работе «Artificial intelligence and identity: the rise of the statistical individual», опубликованной в AI & Society.

Алгоритм представляет нас прежде всего через закономерности, пригодные для прогноза. При этом биографическая история человека, причины его решений и внутренние противоречия могут практически не иметь значения.

Новая работа развивает эту мысль дальше.

Представьте приложение, которое решило, что его пользователь — человек, наиболее активный по утрам. Система начинает подстраивать под это уведомления и рекомендации. Со временем следовать этому сценарию становится проще, чем постоянно ему сопротивляться.

Авторы приводят ещё более наглядное противопоставление. Человек утром может чувствовать: «Я устал». Но приложение сообщает: «Ваш показатель готовности высокий».

Если алгоритмическая оценка регулярно воспринимается как объективная, может возникнуть незаметный сдвиг: цифровое описание постепенно получает больший авторитет, чем непосредственное ощущение самого человека.

И тогда происходит принципиально важная вещь.

Сначала алгоритм описывает, какой вы человек.

Потом это описание начинает влиять на то, каким человеком вам проще быть.

Из автора собственной жизни — в редакторы

Особенно наглядно эта проблема проявляется с генеративным ИИ.

Сегодня нейросети помогают людям писать рабочие письма, резюме, заявления, анкеты для знакомств, посты в социальных сетях и рассказы о самих себе.

Допустим, человек пишет черновик:

«Я занимаюсь маркетингом, люблю путешествия, немного фотографирую и вообще не знаю, что здесь про себя рассказывать».

ИИ превращает его в эффектное описание:

«Стратег по профессии, исследователь по натуре. Люблю находить истории в данных, новые города — на карте, а неожиданные кадры — в объективе».

Человек читает и думает: да, пожалуй, это действительно я.

Ничего опасного в одном таком случае нет. Более того, результат может быть лучше исходника.

Но авторы исследования предлагают посмотреть на накопительный эффект.

Если искусственный интеллект всё чаще формулирует наши мысли, объясняет наши поступки и создаёт тексты, которыми мы представляем себя другим людям, роль человека постепенно может измениться.

Он остаётся не столько автором собственной истории, сколько редактором предложенных машиной версий.

Мы выбираем наиболее подходящее описание себя из нескольких вариантов — но сами варианты всё чаще формулировали не мы.

Почему идеально понимающий собеседник может оказаться проблемой

У исследования есть ещё одна, пожалуй, наиболее парадоксальная идея.

Люди плохо понимают друг друга — и это может быть полезно.

Друг спорит с нами.

Муж или жена видят ситуацию совершенно иначе.

Коллега не принимает наше объяснение.

Незнакомец воспринимает нас совсем не такими, какими мы привыкли себя считать.

Иногда это раздражает. Но именно столкновение с чужим взглядом заставляет человека пересматривать собственное представление о себе.

Авторы говорят о своего рода продуктивном трении. В человеческом общении существует множество независимых взглядов, способных противоречить друг другу и удивлять нас.

С персонализированной системой ситуация иная.

Чем больше она знает о пользователе, тем лучше способна выдавать подходящие именно ему ответы. Алгоритмическая среда стремится уменьшить сопротивление: быстрее понять запрос, точнее подобрать рекомендацию, предложить удобный вариант.

Получается странный парадокс.

Мы ценим ИИ за способность понимать нас. Однако именно слишком комфортное понимание потенциально способно стать проблемой.

Человеческий собеседник иногда говорит: «Нет, ты ошибаешься».

Алгоритм гораздо чаще пытается разобраться, что именно пользователь хочет получить, и помочь ему это получить.

Исследователи опасаются, что в крайних случаях такой мир может превратиться в огромное персональное зеркало: система всё точнее воспроизводит уже известную ей версию человека, а человек всё чаще узнаёт в этом отражении самого себя.

Особенно значимым такой эффект, по мнению авторов, может стать в ситуации, когда общение с ИИ начинает не дополнять, а заменять существенную часть общения с людьми. В обычной социальной жизни вокруг человека остаются источники несогласия и неожиданности, способные разрушить созданное алгоритмом зеркало.

Может ли общение с машиной действительно менять мышление?

Полностью фантастической эта идея не выглядит.

Авторы новой работы обращаются, в частности, к экспериментальным исследованиям взаимодействия людей с человекоподобными роботами.

Например, Цзяньцай Ляо и Цзинъя Хуан в работе «Think like a robot: How interactions with humanoid service robots affect consumers’ decision strategies», опубликованной в Journal of Retailing and Consumer Services, провели четыре эксперимента и изучили, как контакт с сервисным роботом влияет на последующие решения людей.

Участники, взаимодействовавшие с человекоподобным роботом вместо сотрудника-человека, в среднем испытывали менее интенсивные эмоции и при последующем выборе относительно сильнее опирались на рациональные рассуждения, а не на эмоциональные ощущения.

При этом эффект зависел от условий эксперимента и проявлялся не во всех группах. Например, он исчезал при некоторых характеристиках робота и участников.

Это исследование вовсе не доказывает существование «роботоидной человечности». Но оно показывает важную вещь: характер взаимодействия с машиной действительно способен влиять на то, как человек ведёт себя уже после этого взаимодействия.

Три стадии превращения зеркала

Авторы новой работы описывают предполагаемый механизм в виде трёх стадий.

Сначала человек начинает воспринимать взаимодействие с ИИ как в некотором смысле социальное. Современный чат-бот отвечает естественным языком, реагирует на эмоциональную окраску сообщения, поддерживает диалог и способен учитывать предыдущий контекст — поэтому разговаривать с ним психологически совсем не то же самое, что заполнять форму на сайте.

На втором этапе система собирает доступную ей информацию о пользователе и создаёт его вычислимую модель.

Это неизбежно упрощённое отражение: машине доступны сообщения, действия, предпочтения и статистические связи между ними, но не весь человеческий внутренний опыт.

Затем отражение возвращается человеку в форме персонализированных ответов, рекомендаций и прогнозов.

И наступает третий этап: пользователь постепенно адаптируется к отражению. Он яснее формулирует мысли, становится последовательнее, выбирает понятные системе категории — словом, ведёт себя так, чтобы взаимодействие работало лучше.

Это образует петлю:

человек даёт системе информацию → система строит модель человека → возвращает её через персонализацию → человек адаптируется → новая информация ещё точнее соответствует модели.

Именно такую постепенную адаптацию к «машиночитаемости» исследователи и называют robotoid humanness.

Самое опасное — если мы ничего не заметим

На первый взгляд кажется, что человек должен почувствовать подобные изменения.

Но авторы считают, что всё может происходить гораздо незаметнее.

В этом и заключается одна из центральных особенностей гипотезы: приспособление может восприниматься не как ограничение, а как удобство.

Машина лучше понимает нас.

Ответы становятся точнее.

Рекомендации — полезнее.

Формулировать мысли проще.

Принимать решения быстрее.

Возникает ощущение, что технология помогает человеку лучше быть самим собой.

Но если для получения этого комфорта человек постепенно отбрасывает неоднозначность и начинает представлять себя через категории, которые удобно обрабатывать машине, то упрощение личности может субъективно ощущаться не как потеря, а как улучшение.

Авторы «Robotoid humanness» поэтому выводят дискуссию об этике ИИ за привычные рамки приватности и алгоритмической предвзятости.

Сегодня мы прежде всего спрашиваем: какие данные система собирает, кому их передаёт и насколько прозрачно использует?

Исследователи предлагают добавить другой вопрос:

что происходит, когда система не просто собирает сведения о человеке, но постоянно возвращает ему собственную упрощённую модель — и тем самым влияет на то, кем человеку проще становиться?

Но пока это гипотеза, а не доказанный эффект

Здесь необходимо важное уточнение.

Авторы не проводили эксперимент, который показал бы, что пользователи ChatGPT постепенно превращаются в более «машиноподобных» людей.

Работа опубликована в AI & Society в формате Open Forum. Это теоретическая статья: исследователи предлагают концептуальную модель, которую теперь необходимо проверять экспериментально и в длительных наблюдениях.

Они сформулировали три основных проверяемых предположения.

Чем сильнее ИИ воспринимается как социальный собеседник, тем больше взаимодействие с ним потенциально способно затрагивать представление человека о себе.

Чем сильнее персонализация, тем выше потенциальная вероятность того, что сложное самоощущение будет заменяться более простой и пригодной для алгоритма моделью.

И наконец, при длительном взаимодействии человек может всё сильнее адаптировать способы самовыражения к ясности, последовательности и предсказуемости, которые проще обрабатывать машине.

Теперь эти предположения предстоит проверить.

Причём сами авторы подчёркивают: речь не идёт о неизбежном результате использования ИИ. Возможный эффект должен зависеть от устройства системы, степени персонализации, поведения самого пользователя и того, насколько значительную роль машины занимают в его социальной жизни.

Бездна начинает смотреть в ответ

Люди всегда узнавали себя через других.

Мы понимаем, кем являемся, в том числе по реакции друзей, коллег, родителей, детей и совершенно незнакомых людей. Каждый из них отражает немного другую нашу версию.

Теперь среди этих зеркал появился новый вид.

Машина может наблюдать человека дольше многих знакомых, помнить огромное количество его действий, находить закономерности, которых он сам не замечает, и каждый день возвращать ему вычисленную версию его личности.

Но это зеркало устроено необычно.

Оно не просто отражает.

Оно предсказывает.

Предлагает.

Подсказывает.

А затем наблюдает, согласились ли мы с предложенной версией себя.

Поэтому вопрос, который ставит новое исследование, касается уже не только технологий.

Мы долго пытались сделать искусственный интеллект более человечным.

Теперь стоит внимательно посмотреть, не идёт ли параллельно обратный процесс — и не начинаем ли мы сами незаметно становиться такими, какими машинам проще нас понять.