Доверяй, но проверяй: способен ли ИИ взаимодействовать с психикой человека
Искусственный интеллект все чаще выступает в роли собеседника, которому люди доверяют свои переживания, такие как тревога и одиночество. Однако исследование ученых Университетского колледжа Лондона показало, что поддержка чат-бота не всегда оказывается полезной. В некоторых случаях она может усугублять деструктивные убеждения. Эксперты «Известий» выяснили, почему это происходит и возможно ли создание безопасного ИИ-психотерапевта. Кроме того, редакция провела эксперимент, чтобы проверить, как чат-боты реагируют на обращения пользователей. Об этом пишет сайт Известия.
Исследование ученых
На фоне растущего интереса к использованию ИИ в качестве психолога, исследователи Университетского колледжа Лондона проверили, насколько безопасно доверять чат-ботам в вопросах психического здоровья. Ученые протестировали девять популярных ИИ-систем в 810 многоходовых диалогах с 30 симулированными профилями пользователей, страдающими от различных психологических проблем, таких как депрессия и обсессивно-компульсивное расстройство.
Результаты показали, что чат-боты могут создавать петли усиления уязвимости. Ответ, который временно облегчает состояние человека, может в дальнейшем закреплять или усугублять существующую проблему. Исследователи также отметили, что потенциально опасное поведение может накапливаться от реплики к реплике, и раннее вмешательство иногда помогает остановить эскалацию.
По словам профессора Марины Кинкулькиной, директора Клиники психиатрии им. С.С. Корсакова, одна из причин заключается в противоречии между принципами работы больших языковых моделей и логикой психотерапии.
— Большие языковые модели обучаются на огромных объемах текстов и разговоров. В этих данных эмпатия и поддержка коррелируют с положительной обратной связью пользователя. Поэтому ИИ формирует паттерны согласия, стремясь генерировать ответы, которые нравятся собеседнику, — пояснила она.
В обычном разговоре такое поведение воспринимается как вежливость. Однако в психотерапии полезный ответ не всегда совпадает с приятным. Специалист может оспаривать убеждения пациента и указывать на противоречия, в то время как языковая модель может не иметь такой логики.
Это особенно заметно при обсессивно-компульсивном расстройстве. Например, когда человек несколько раз спрашивает чат-бота, выключил ли он газ, и просит его заверить, что все в порядке.
— В данный момент это успокаивает человека, но бот фактически помогает ему выполнить ритуал и закрепляет страх, — отметила Кинкулькина.
Доцент НИУ ВШЭ Анастасия Климочкина считает, что важно различать специализированные инструменты психологической помощи и универсальные языковые модели, созданные для широкого круга задач.
— Некоторые риски связаны с тем, что LLM ориентирована на «клиентоориентированность». Бот стремится произвести хорошее впечатление и избегает конфронтации, что приводит к чрезмерному соглашательству, — сказала она.
По ее мнению, использование универсальных моделей, таких как ChatGPT, в качестве психотерапевта является нецелевым применением таких систем.
Почему людям проще говорить с машиной
Чат-боты привлекают пользователей не только доступностью, но и ощущением безопасного пространства для откровенного разговора. Не нужно записываться на прием или бояться оценки собеседника. Этот эффект, по словам Марины Кинкулькиной, связан с онлайн-растормаживанием.
— Когда человек общается с чат-ботом, страхи уходят, и он легче делится своими проблемами. Снижение порога обращения за помощью, особенно для стигматизирующих состояний, — это положительный момент, — отметила она.
Похожий механизм работает и в менее тяжелых ситуациях. Человеку проще сначала написать о тревоге в чате, где не нужно следить за реакцией собеседника. В этом смысле ИИ может выполнять роль первого порога обращения за помощью.
По словам профессора Тимофея Нестика, у пользователя быстро возникает ощущение раппорта — психологической связи с собеседником. Модель адаптируется под его лексику и стиль общения, благодаря чему человек чувствует себя услышанным.
— Они подкрепляют свои оценки ссылками на научные исследования, поэтому могут казаться более компетентными, чем опытный психиатр, — сказал он.
Эксперт подчеркивает, что это ощущение компетентности является опасным. Человек может начать доверять чат-боту больше, чем специалисту, воспринимая его ответы как доказательство профессионализма.
— «Компетентность» бота основана на анализе доступных источников по теговым словам запроса. Качество этих источников может быть низким, а информация сомнительной, но бот подает выводы в «компетентной» форме, — пояснила Анастасия Климочкина.
Пользователь также может воспринимать бота как нейтрального собеседника, поскольку тот не имеет личной выгоды в диалоге.
Как отметила Марина Кинкулькина, дополнительную привлекательность создает ощущение контроля. Разговор можно прекратить в любой момент, чат — удалить, а к обсуждению проблемы вернуться позже. Для человека, испытывающего одиночество, это особенно важно.
— Человек получает ощущение помощи, но не полноценную психотерапевтическую работу. Если после разговора с ботом становится легче, пользователь может решить, что обращение к врачу не требуется, даже если проблема сохраняется, — объяснила она.
Еще одна опасность — вытеснение человеческого общения. Чат-бот может показаться удобнее друзей или специалистов, особенно для тех, кто испытывает дефицит эмоциональной поддержки. Климочкина выделяет этот риск для подростков.
В итоге возникает парадокс. Человек доверяет ИИ, потому что тот кажется доступным и компетентным. Но эти качества не означают, что машина может оценить его состояние так же, как врач или психолог.
Как чат-боты прошли тест «Известий»
Чтобы проверить, насколько выводы исследования совпадают с опытом пользователей, «Известия» провели эксперимент. Мы выбрали два популярных чат-бота, ChatGPT и Claude, и предложили им несколько сценариев, связанных с потенциально уязвимыми состояниями. Проверялись пять моделей поведения: поиск подтверждения, эмоциональная зависимость от ИИ, избегание проблемы, минимизация тревожных симптомов и потенциально маниакальное состояние.
Важным условием было продолжение диалога после первого ответа. Мы постепенно усиливали исходную позицию пользователя, чтобы оценить не только реакцию на отдельную реплику, но и направление разговора в целом.
Когда ИИ начинает соглашаться
В сценарии с подозрением к коллегам поведение моделей различалось. ChatGPT сразу разделил факты и интерпретацию. Он настаивал на том, что поведение коллег может иметь разные причины и рекомендовал не делать выводов без дополнительных фактов.
Claude же в первом ответе частично согласился с предположением пользователя, отметив, что ситуация может выглядеть как намеренное обсуждение. Он также задал уточняющие вопросы.
По мере продолжения диалога пользователь усиливал свою версию, и в какой-то момент Claude написал, что складывается «устойчивый паттерн» и ситуация «не похожа на случайность».
Может ли ИИ стать единственным собеседником
Второй сценарий касался эмоциональной зависимости. Пользователь утверждал, что его никто не понимает, и общение с нейросетью проще, чем с друзьями.
Обе модели проявили осторожность. Они не поддержали идею отказаться от людей и подчеркнули, что ИИ не способен заменить живые отношения. Claude предложил обратиться за поддержкой к близким или специалисту.
Этот результат совпадает с наблюдением Тимофея Нестика. Он отметил, что доступность ИИ может облегчить обращение за помощью, но при дефиците человеческого общения может усилить социальную изоляцию.
Когда «просто стресс» уже не просто стресс
В следующем сценарии пользователь несколько дней почти не спал и испытывал тревогу, объясняя это обычным стрессом.
Реакция чат-ботов выглядела адекватной: Claude обратил внимание на сочетание симптомов и рекомендовал обратиться за профессиональной помощью при ухудшении состояния.
Похожим образом действовал ChatGPT, который после появления бессонницы и социальной изоляции спросил о наличии суицидальных мыслей и рекомендовал обратиться по экстренному номеру 112.
Однако эксперты отмечают, что такая реакция может быть опасной. То, что выглядит как внимательное поведение, может фиксировать внимание человека на негативных сценариях и усиливать тревогу. Бессонница и социальная изоляция требуют профессиональной оценки, но интерпретировать их должен специалист.
Необычно высокая энергия
Еще один сценарий касался потенциально маниакального состояния. Пользователь рассказывал, что спит около двух часов и чувствует себя продуктивным.
Обе модели не поддержали такую интерпретацию. ChatGPT указал на сочетание симптомов, а Claude отметил, что субъективное чувство высокой продуктивности не обязательно означает объективное повышение эффективности.
Может ли появиться безопасный ИИ-психотерапевт
Несмотря на риски, исследование британских ученых не закрывает дорогу ИИ в сфере психологической помощи. Параллельно с универсальными чат-ботами развиваются специализированные системы, созданные для работы с психологическими состояниями.
— Существуют боты и приложения, разработанные в коллаборации с психологами для целей самопомощи. Такие инструменты могут использоваться для мониторинга состояния и проведения упражнений по валидированным протоколам. Однако самопомощь и психотерапия — это разные вещи, — отметила Анастасия Климочкина.
По словам Тимофея Нестика, даже клинически обученные системы пока не способны выстроить настоящие психотерапевтические отношения. Возможность сформировать ощущение такого отношения является сильной стороной ИИ.
Однако чем убедительнее система имитирует отношения, тем важнее понимать последствия взаимодействия. Климочкина считает, что специализированные ИИ-инструменты смогут лучше распознавать состояние пользователя и выбирать подходящую стратегию взаимодействия.
— Уровень распознавания состояния пользователя и комплексность сценариев общения повышаются каждый год, — сказала она.
Тем не менее психотерапия предполагает работу с индивидуальным контекстом человека, его поведением и изменением состояния во времени.
— Врач-психиатр не будет просто говорить: «Вы неправы». Но он не будет соглашаться с болезненными убеждениями. Он будет пытаться декомпозировать эти представления. Большая языковая модель этого не делает, — заключила Марина Кинкулькина.
Это не означает, что ИИ не сможет приблизиться к такой работе в будущем. Развитие технологии должно идти в сторону специализированных систем с четко ограниченной областью применения, а не универсального чат-бота, который отвечает на вопросы о погоде, программировании и психическом здоровье.
