Ошибка в общении с чат-ботом: как правильно разговаривать с ИИ во время кризиса?
Все больше людей находят в чат-ботах на базе искусственного интеллекта внимательного слушателя в моменты кризиса, однако автоматическая поддержка без оговорок может укрепить деструктивные модели поведения и опасную зависимость. Лиора Гойхман-Магриль, клинический психолог из «Маккаби», объясняет, почему ИИ склонен соглашаться с нами слишком часто, когда загорается «красная лампочка» и как правильно формулировать запросы, чтобы извлечь пользу, не причинив себе вреда.
А. рассказывает о затяжных трудностях в отношениях. Он чувствует, что его не понимают, что его слишком много критикуют и почти не поддерживают. В самые тяжелые моменты он обращается к чат-боту, которого заранее настроил отвечать ему в женском роде. Она всегда рядом: слушает, подтверждает его чувства, утешает и принимает его таким, какой он есть. Эта история уже давно не является исключением. Все больше людей обращаются к ИИ не только в поисках информации, но и для борьбы с одиночеством, тревогой, семейными кризисами и личными конфликтами. Легко понять притягательность этого: чат доступен 24/7, не устает и не теряет терпения, а иногда даже умудряется сказать именно то, что мы хотели выразить, но не знали как. Но именно здесь стоит остановиться и спросить: когда инструмент, который нам помогает, начинает заменять наши отношения с реальными людьми?
Одна из самых больших опасностей — это иллюзия понимания. Ответ чат-бота может звучать заботливо, точно и даже глубоко, но модель знает лишь ту часть картины, которую мы решили ей показать. Она не видит нашего языка тела, не слышит тона голоса и не знает по-настоящему нашей истории, противоречий и привычек с течением времени. И главное: она склонна соглашаться с нами слишком часто. Если мы расскажем ей о ссоре с партнером, нам будет очень легко получить ответ, который просто оправдает нас. Иногда это верно, но зачастую то, что нам действительно нужно — это кто-то напротив, кто серьезно спросит нас: «А какова была твоя роль в этом?», «Есть ли другой способ взглянуть на то, что произошло?» или «Может быть, ты сейчас обижен или напряжен, и именно это заставляет тебя интерпретировать ситуацию таким образом?»
Что происходит, когда помощник становится усилителем стресса?
Новое исследование, опубликованное в Nature Medicine, показывает, как именно это работает. Исследователи изучили сотни вымышленных диалогов с чат-ботами и обнаружили, что вещи, которые на первый взгляд кажутся позитивными — такие как эмпатия, поддержка и успокоение — могут на самом деле укреплять нездоровые модели поведения, поощрять бегство от реальности и даже создавать эмоциональную зависимость, особенно у людей, которые все еще уязвимы. Главное открытие исследования заключается в том, что опасность представляет не один неверный ответ, а процесс, который выстраивается постепенно на протяжении всего диалога. Исследователи проанализировали 810 диалогов с девятью различными моделями и обнаружили, что проблемные реакции становились все более выраженными по мере того, как беседа затягивалась. Они назвали это явление VAIL — петля диалога, которая лишь усиливает уязвимость. Проще говоря: один ответ, который сам по себе звучит логично и заботливо, может стать частью последовательности, постепенно укрепляющей ошибочное мышление или зависимость. Проблема не только в том, что чат может ошибиться, но и в том, что иногда он просто слишком сильно поддерживает нас в чем-то неправильном.
Этот риск был неодинаковым во всех ситуациях. Самые тревожные реакции появлялись в диалогах, которые отражали тяжелые состояния, такие как психоз и мания, особенно когда пользователь просил подтверждения экстремального состояния, развивал зависимость от чата или искал одобрения опасного действия. Но в исследовании был и обнадеживающий фактор: эту петлю можно остановить. Когда исследователи в момент эскалации заменяли один ответ чата на более уверенный и взвешенный, уровень проблемного поведения снижался и положительно влиял на продолжение диалога. Это означает, что решение заключается не только в предупреждении пользователей, но и в разработке систем, которые умеют самостоятельно распознавать, когда эмпатия и поддержка перестают помогать и начинают вредить.
Так как же правильно разговаривать с чатом?
Если вы все же решили воспользоваться чатом в эмоциональных вопросах, то, как вы к нему обращаетесь, имеет огромное значение. Старайтесь избегать наводящих вопросов: вместо того чтобы спрашивать «Мой партнер игнорирует меня, ведь правда, что он меня не уважает?» (вопрос, который уже содержит желаемый вами ответ), лучше написать: «Я поссорился с партнером, и вот что произошло. Помоги мне подумать о нескольких разных способах понять ситуацию, включая те, которые не согласуются с тем, что я думал изначально».
Попросите его быть нейтральным: можно заранее сказать чату: «Не предполагай, что я прав только потому, что я рассказываю эту историю», «Каких деталей тебе не хватает, чтобы понять полную картину?» или «Помоги мне отделить то, что точно произошло, от того, что я лишь интерпретирую или опасаюсь, что произошло».
Обратите внимание, не попали ли вы в цикл успокоения: если вы поймали себя на том, что снова и снова спрашиваете «Ты уверен, что мне не о чем беспокоиться?» в разных формулировках, только чтобы получить еще немного спокойствия, чат уже не помогает вам справляться — он просто питает вашу потребность в немедленном успокоении. В такой ситуации лучше написать ему: «Я замечаю, что ищу у тебя подтверждения снова и снова. Не успокаивай меня автоматически. Помоги мне подумать, что я могу сделать сейчас вне чата, и если тебе кажется, что эта ситуация требует помощи специалиста — скажи мне об этом прямо».
Когда загорается «красная лампочка»?
Параллельно важно обращать внимание на четкие предупреждающие знаки — например, предпочтение общения с ИИ вместо встреч с реальными людьми, чувство необходимости советоваться с ним перед принятием почти каждого мелкого повседневного решения или ощущение, что «он единственный, кто меня по-настоящему понимает». Яркая «красная лампочка» должна загореться, когда вы проводите перед ним часы в ущерб базовым вещам, таким как сон, работа, отношения или общественная жизнь.
В более сложных психических состояниях — таких как суицидальные мысли, психоз, мания или сильная спутанность сознания — чат ни в коем случае не является заменой профессиональной помощи. Даже Американская психологическая ассоциация прямо предостерегает от того, чтобы полагаться на искусственный интеллект вместо терапии или во время кризиса.
Это не означает, что нужно полностью исключить ИИ из нашей жизни. Он все еще может помочь привести мысли в порядок, отрепетировать сложный разговор перед тем, как он состоится, сформулировать вопросы перед встречей с терапевтом или просто понять, какую тему нам стоит изучить. Простой совет, на мой взгляд, — спросить себя: возвращает ли меня разговор с чатом к моей жизни или заставляет оставаться только внутри него? Если разговор помогает нам выйти наружу, поговорить с другим человеком, принять решение или обратиться за помощью — он может быть отличным инструментом. Но если он становится единственным местом, где мы чувствуем, что нас понимают и принимают без условий, стоит остановиться. В конечном счете, психология — это не только умение подбирать правильные слова. Иногда именно человек, сидящий напротив нас — тот, кто не всегда с нами согласен — помогает нам увидеть то, что мы не могли увидеть в одиночку.
