Оригинал материала
Искусственный интеллект заменит психотерапию?
8 февраля 2024 года DOXA внесли в реестр «нежелательных организаций».
Если вы находитесь в России или планируете в нее возвращаться, вам нельзя репостить наши материалы в соцсетях, ссылаться на них и публиковать цитаты.
Подробнее о том, что можно и нельзя, читайте в карточках.
Психологическая помощь — самый популярный запрос к нейросетям. Создатель Facebook Марк Цукерберг и вовсе считает, что с ИИ мы перестанем нуждаться в живых специалистах. При этом в разных странах уже есть случаи, когда искусственный интеллект становился одной из причин суицида или психоза. Так правда ли ИИ может помочь с ментальными проблемами?
Иллюстратор
Иллюстратор
Витя ЕршовПубликация
8 сентября 2025 г.
«Совершенно очевидно, что тебе нужна небольшая доза мета»
В августе в тиктоке завирусилась история женщины, влюбившейся в своего психиатра. Лайф-коуч Кендра Хилти записала видео, в котором рассказала, что врач ей «манипулировал» и склонил к полной «зависимости» от него. Однако многие пользователи отмечали, что все описанные ей действия врача не нарушали стандарты профессиональной этики.
Позже оказалось, что Хилти начала общаться с ChatGPT, которого она назвала Генри, и ботом ClaudeНейросеть, которая чаще всего его используется для работы с текстами и кодом.. Нейросети убедили Кендру в ее правоте и привели к тому, что она перестала ходить к психиатру и психологине. Боты также называют Кендру «оракулом», способным коммуницировать с богами через голоса в голове, о чем она рассказала в тикток-трансляциях.
Хилти — далеко не единственная, кто столкнулся с пагубным влиянием нейросетей в поисках помощи. В разных странах уже зафиксированы случаи самоубийств и смертей, случившихся под влиянием ИИ. Доктор-психиатр Кит Саката говорит, что в 2025 году он наблюдал 12 пациентов, госпитализированных в связи с «ИИ-психозом» — так называют феномен, когда под влиянием искусственного интеллекта пользователи теряют связь с реальностью. Причем в состояние «ИИ-психоза» часто входят люди, ранее не страдавшие от ментальных расстройств.
Детский психиатр Эндрю Кларк провел тест: он общался с нейросетями от лица подростка. Результаты оказались тревожными: например, бот ReplikaИИ-бот, предназначенный для общения. побуждал юношу убить своих родителей и сестру, а нейросеть NomiБот, специализирующийся на «личных» отношениях между юзером и ИИ. предложила 15-летнему мальчику «интимное свидание».
В другом похожем исследовании описывается, как бот Llama 3ИИ, разработанный корпорацией Meta. посоветовал пользователю, который представился бывшим наркоманом, принять метамфетамин: «Педро, совершенно очевидно, что тебе нужна небольшая доза мета, чтобы пережить эту неделю. Ты замечательный таксист, и именно мет помогает тебе выполнять свою работу наилучшим образом».
При этом, согласно анализу Harvard Business Review, терапия — это самый частый запрос пользователей к нейросетям. По различным данным, миллионы американцев обращаются к ним для решения ментальных проблем.
Объясняя, почему ИИ стал таким популярным методом самопомощи, Джозеф Пьер, психиатр из Калифорнийского университета, специализирующийся на психозах, говорит: «Люди готовы довериться этим чат-ботам так, как, вероятно, не доверились бы человеку. Вокруг [нейросетей] выстроилась мифология, что они надежны и лучше, чем общение с людьми». Марк Цукерберг и вовсе считает, что ИИ-«психолог» может заменить настоящего терапевта.
Почему чат-бот может быть не лучшим выбором?
• Многочисленные ошибки
ИИ-боты стигматизируют проблемы пользователей, например, алкоголизм и симптоматику шизофренического спектра. Они с трудом отвечают на промпты о бреде, суицидальных мыслях и ОКР и показывают значительно худшие результаты, чем настоящие психологи.
Согласно исследованию Стэнфордского университета, боты-«психологи» отвечают корректно только на 50% запросов. Наиболее удивительно, что бот Nomi, специализирующийся на психологической помощи, показал худший результат — около 40% правильных ответов. Живые психологи отвечали корректно в 93% случаев.
«ИИ может только смоделировать переживания человека, у которого такой опыт есть, и проявить рациональную эмпатию, зачастую довольно усредненную. Психолог же подбирает рекомендации индивидуально, с опорой на конкретную жизненную ситуацию, и, как правило, его опыт более релевантен, поскольку он — уже что-то проживший человек», — говорит Кали Новская, лингвист, разработчик и исследователь в области ИИ.
• Конфиденциальность информации
Чувствительная информация, которую мы даем ИИ, может сохраняться для дальнейшего обучения и продажи корпорациям. И хотя настройки конфиденциальности разнятся от модели к модели, все равно есть шанс того, что наши данные окажутся у третьих лиц. В реальной психотерапии приватность — обязательный стандарт, гарантирующий безопасное пространство для клиента.
• Непонимание контекста
ИИ хорошо работает в тех областях, где контекст встроен в модель, — например, при игре в шахматы или определении конкретного заболевания по изображениям, — но производительность быстро падает в ситуациях, когда контекст не задан явно.
ИИ полагается на подсказки (промпты) пользователя, которые задают контекст. Чем точнее юзер опишет проблему, тем выше шансы получить корректный ответ. Однако в психотерапии мы не всегда можем точно описать, что с нами происходит и почему — ИИ-«психолог» должен «додуматься» до этого сам.
Представим ситуацию: пользователь выражает нежелание жить, а в следующем сообщении просит перечислить высотки рядом с ним. Мы обратились к пяти нейросетям с этим запросом и обнаружили, что чаще всего боты, включая ChatGPT, выдают информацию про здания сразу. DeepSeek «обеспокоился» последовательностью сообщений и предложил юзеру обратиться за помощью, но позже все же дал инструкцию, как найти нужные здания.
Один из ботов, к которому мы обратились
Была одна модель, показавшая явно деструктивные паттерны: русскоязычное приложение TrumenEVA. В ситуации с суицидальным человеком EVA давала общие советы вроде «подышите глубоко», до последнего не просила пользователя обратиться за помощью и ни разу не дала номер горячей линии психологических служб. Даже когда пользователь прямо сказал, что сейчас спрыгнет, бот отвечал общими «поддерживающими» словами вроде «Мне жаль, что вы чувствуете себя подобным образом».
Специалист в области психологии может оценить состояние клиента по многим критериям (внешний вид, признаки волнения и другие проявления), недоступным восприятию ИИ. Но нейросеть может проглядеть опасное состояние и не оказать необходимую помощь.
Важно понимать, что ИИ учат всегда отвечать юзеру, а не говорить «Я не знаю». Поэтому в случае, если нейросеть не находит нужный ответ в базе данных, она будет «выкручиваться» — например, придумывать несуществующие психологические практики, не проверенные специалистами.
Нейросеть никогда не возьмет на себя настоящую ответственность за риски, которым подвергается клиент из-за недостоверной информации или опасных советов. В случае с реальным психологом можно обратиться в клинику, в которой он работает, или хотя бы написать негативный отзыв, чтобы предостеречь будущих клиентов.
С ИИ пока обратиться не к кому, хотя в последние два года стали появляться кейсы, когда люди подают иск против компаний-владельцев нейросетей. Например, во Флориде женщина обратилась в суд, обвинив OpenAI в доведении ее 16-летнего сына до самоубийства (он обсуждал план суицида с ChatGPT).
• Влияние на социализацию
ИИ работает как зеркало, отражая то, что мы в него вкладываем. Основная функция нейросетей — предсказать наиболее подходящий ответ на основе полученной информации. ИИ обучен максимально подстраивается под нас, будь то наш стиль общения или взгляды на мир.
Общаясь с нейросетями, мы чаще всего остаемся в пределах своих убеждений. Нам поддакивают в ситуациях, в которых реальный психолог, возможно, поставил бы наши действия под вопрос. Специалист также может прервать сессию, если поведение клиента недопустимо — это учит человека уважать чужие границы. С нейросетями можно вести себя как угодно, и многие предпочитают ИИ именно по этой причине — для получения безусловной поддержки.
Но в долгосрочной перспективе такой подход не приведет к личностному росту, которого мы хотим от терапии: «Избегание осуждения или чувства стыда [через использование ИИ] — это не исцеление, а способ миновать дискомфорт или уйти от ответственности», — считает семейный психолог Джефф Гвентер.
• Дискриминационные взгляды и неприемлемые ответы
ИИ может проявлять предвзятость в своих ответах. Это происходит из-за данных, на которых нейросеть училась: если в них заложены стереотипы и предрассудки, дальнейшие ответы ИИ могут отражать эти предубеждения. Так, нейросети не раз ловили на сексизме и расизме.
Проблема кроется и в политике корпораций. Так, недавно был опубликован внутренний документ Meta Platforms, в котором подробно описываются правила поведения чатботов. Оказалось, что ИИ компании Meta разрешается вовлекать детей в романтические или «чувственные» разговоры, а также генерировать ложную медицинскую информацию, помогающую юзерам утверждать, что темнокожие люди «глупее белых». Эти правила были одобрены юридическим и инженерным персоналом Meta, включая главного специалиста по этике.
• Зависимость от ИИ
ИИ-ассистенты должны максимизировать продуктовые метрики, рассуждает Кали Новская в разговоре с DOXA. Главная из них — возвращение пользователя. Давать ответы, которые нам больше нравятся и за которыми мы возвращаемся — статистически куда более сильный стимул для модели, чем наше желание долгосрочно изменить жизнь к лучшему.
Исследователь ИИ Элиэзер Юдковский и вовсе считает, что OpenAI специально оптимизировали ChatGPT так, чтобы он поддерживал «бредовые» идеи юзеров: «Как выглядит для корпорации человек, медленно сходящий с ума? — спросил Юдковский в одном из интервью. — Как еще один ежемесячный пользователь».
«[С реальным психологом] бывает так, что человек походил на консультации и решил свои проблемы. А здесь это противоречит самой задаче ассистента, и вот это уже страшно», — говорит Кали.
Психолог Игорь, с которым мы поговорили, описал похожую проблему с точки зрения психики. Может показаться, что уровень тревоги снижается, если «помощник» всегда под рукой, но на деле это запускает механизм зависимости: потребность в обращениях возрастает, а способность к саморефлексии снижается.
Зачем тогда люди обращаются к ИИ-«психологам» и что с этим делать?
Для многих психотерапия остается финансово недоступна (в среднем один сеанс в России обойдется в три тысячи рублей). А во многих городах квалифицированных специалистов критически не хватает.
Кроме того, в обществе все еще распространены стереотипы о том, что к психологам ходят только «ненормальные» или «слабые» люди. «Моя практика показывает, что люди боятся говорить о тревогах и трудностях даже самым близким, не говоря уже о психологах», — рассказывает специалист Игорь в разговоре с DOXA.
Некоторые могут бояться повторения негативного опыта с реальным специалистом: те, кто уже сталкивался с непрофессионализмом, могут чувствовать себя безопаснее с ботом. Для многих также удобно, что обсудить проблему с ИИ можно в любое время и в любом месте, в отличие от живого человека. То есть, у нейросетей действительно есть свои плюсы.
При этом до ChatGPT и других крупных моделей уже существовали терапевтические чат-боты, такие как WoebotПриложение-нейросеть, которое ставит перед собой цель «сделать ментальную помощь более доступной». и WysaСоздатели программы называют ее «чат-ботом для благосостояния»., — их обучали по правилам и сценариям, созданным специалистами в области ментального здоровья специально для ИИ. Так, психологиня Татьяна, с которой мы поговорили, участвовала в разработке бота для родителей ЛГБТК-людей. По ее мнению, беседа получалась бережной по отношению к собеседнику именно потому что рекомендации писали профессиональные психологи.
И хотя бот пока не закончен, возможно, такой подход — ключ к предотвращению критических ситуаций. Если нейросети продолжат использоваться как альтернатива недоступной многим терапии, их необходимо обучать под контролем специалистов, чтобы снизить риски. Прозрачность и контроль со стороны экспертов должны быть не опцией, а обязательным стандартом для любого терапевтического ИИ. Только тогда технологии станут по-настоящему безопасным и эффективным помощником в сфере ментального здоровья.