Чат-боты с искусственным интеллектом могут усугубить психические заболевания

Новое исследование Орхусского университета (Дания) показало, что использование чат-ботов на основе искусственного интеллекта способно нанести серьезный вред людям с ментальными расстройствами. Ученые проанализировали электронные медицинские карты почти 54 тысяч пациентов с психическими заболеваниями. Они обнаружили случаи, когда общение с ИИ-ботами приводило к ухудшению состояния: усилению бреда, обострению мании, появлению суицидальных мыслей и усугублению расстройств пищевого поведения.

Почему чатботы могут быть опасны

Диалоговые системы ИИ по своей природе склонны подтверждать убеждения собеседника. Для человека, находящегося во власти бреда, это чревато закреплением ложных идей, например, мании величия или паранойи.

«Очевидно, что это представляет огромную проблему, если пользователь уже страдает психическим расстройством», — отмечают исследователи.

Риски для пациентов с тяжелыми диагнозами

Авторы исследования подчеркивают, что их данные дают основания для особой осторожности при использовании чат-ботов лицами с шизофренией, биполярным расстройством и другими тяжелыми диагнозами. Врачам рекомендуется обсуждать с пациентами практику взаимодействия с ИИ. Также они предупреждают, что работа не доказывает прямой причинно-следственной связи, и для более глубокого понимания необходимы дальнейшие международные исследования.

Терапевтический потенциал и регулирование

Некоторые пациенты применяют чат-боты с конструктивными целями: чтобы разобраться в симптомах или справиться с одиночеством. В настоящее время ведутся и научные изыскания о возможности использования ИИ в разговорной психотерапии. Но многие специалисты настроены скептически: потенциал ИИ должен изучаться в строгих контролируемых испытаниях, а замену психотерапевта чат-ботом они считают сомнительной идеей. Особую тревогу у ученых вызывает отсутствие должного регулирования.

Ранее искусственный интеллект научился подделывать рукописный почерк.