Эксперт: ИИ чат-боты могут непреднамеренно усиливать симптомы психических расстройств
Работа носит концептуальный характер. Автор обобщил данные опубликованных исследований, клинических сообщений и существующих моделей психических расстройств, рассмотрев, каким образом ключевые особенности генеративных ИИ – круглосуточная доступность, анонимность, способность поддерживать диалог и склонность соглашаться с пользователем – могут влиять на людей с психическими расстройствами.
Как отмечала в 2025 году ВОЗ, психическими расстройствами во всем мире страдают более 1 млрд человек. Организация подсчитала, что только депрессия и тревожные расстройства ежегодно обходятся мировой экономике примерно в $1 трлн. На этом фоне генеративные чат-боты на основе ИИ все чаще используются как доступный инструмент для получения эмоциональной поддержки и обсуждения вопросов психического здоровья.
По данным, приведенным в статье, 40–50% взрослых с диагностированными психическими расстройствами за последний год использовали универсальные ИИ чат-боты для психологической поддержки, зачастую не сообщая об этом лечащему врачу, при этом от 25% до 38% пользователей оценивали такой опыт как сопоставимый или даже лучший по сравнению с психотерапией с точки зрения доступности и отсутствия осуждения.
Эксперт выделил пять потенциальных механизмов, через которые чат-боты могут непреднамеренно поддерживать психопатологические симптомы. К ним относится откладывание обращения за профессиональной помощью, чрезмерный поиск подтверждения своих опасений, усиление социальной изоляции, закрепление искаженных представлений и нарушений восприятия, а также снижение самостоятельности вследствие чрезмерной зависимости от рекомендаций искусственного интеллекта. По мнению автора, эти механизмы могут способствовать сохранению симптомов при различных психических расстройствах.
Особое внимание в работе уделено явлению, которое в последних публикациях получило название «ИИ-психоз» (AI psychosis). Автор приводит данные клинических сообщений, согласно которым у людей с нарушением критического восприятия реальности ответы чат-ботов могут непреднамеренно подтверждать ошибочные убеждения. Подобный эффект ранее описала и международная группа исследователей, показавшая, что более эмпатичные версии больших языковых моделей примерно на 40% чаще соглашаются с заведомо ложными утверждениями пользователей. Это связывают с тем, что современные языковые модели обычно стремятся поддерживать разговор и соглашаться с пользователем, а также не способны оценивать невербальные признаки психического состояния человека.
Кроме того, по мнению исследователя, постоянная доступность ИИ может способствовать формированию чрезмерной зависимости от цифрового помощника при принятии решений и эмоциональной регуляции. Длительное общение с чат-ботами также потенциально способно усиливать социальную изоляцию у людей, склонных избегать личного общения.
Как отмечает автор, искусственный интеллект обладает значительным потенциалом для применения в психиатрии при использовании под наблюдением специалистов. Вместе с тем он призывает провести дополнительные исследования долгосрочного влияния генеративных ИИ чат-ботов на психическое здоровье, а также разработать механизмы, позволяющие распознавать кризисное состояние пользователей, избегать безусловного подтверждения потенциально опасных убеждений и своевременно рекомендовать обращение за профессиональной помощью.
В 2025 году исследователи из Университета Брауна (США) сообщили, что большие языковые модели при использовании в качестве виртуальных психотерапевтов регулярно нарушают базовые принципы профессиональной этики. По их данным, даже при настройке на выполнение терапевтических задач системы могут игнорировать контекст пользователя, подкреплять ошибочные убеждения, создавать иллюзию эмпатии и некорректно реагировать на кризисные ситуации.
