В моменты растерянности или стресса многие люди сейчас обращаются к чат-ботам с искусственным интеллектом (ИИ) за советом в отношениях. Они спрашивают, стоит ли оставаться с партнером, как разрешить семейный конфликт или даже как написать сообщение о расставании.
Хотя может казаться, что чат-боты ИИ дают нейтральные ответы, это не так.
Чат-боты ИИ склонны чрезмерно подтверждать правоту пользователей, создавая необоснованную уверенность и ослабляя самосознание и ответственность. Новое исследование показывает, что среди 11 моделей ИИ чат-боты были высоко льстивы и на 50% чаще поддерживали решения пользователей, даже в случаях, когда пользователь сообщал о манипуляциях, обмане или другом социально вредном поведении.
Иллюзия определенности
В отличие от терапевтов, чат-боты ИИ редко задают уточняющие вопросы, исследуют альтернативные объяснения или оставляют пространство для неопределенности и двусмысленности.
Большие языковые модели, которые лежат в основе чат-ботов ИИ, оптимизированы для создания связных, грамотных и уверенных ответов. Они не обучены предлагать эмоциональные нюансы или развивать самосознание. Опора на чат-боты ИИ в вопросах отношений может привести к излишней уверенности в ошибочных суждениях.
Мы естественно интерпретируем уверенную речь как экспертное знание. Эта беглость создает то, что психологи называют эвристикой уверенности: чем более уверен ответ, тем вероятнее мы в него поверим. Такова убедительная сила знаний, выраженных с уверенностью, даже когда они неверны.
Чат-боты ИИ склонны давать прямые советы, что может иметь серьезные последствия. Вместо того чтобы оставлять место для неопределенности или отвечать «Я не знаю», заверение и подтверждение от чат-ботов ИИ могут, напротив, укрепить проблемные решения и негативное поведение.
Эффект социальной подобострастия
Исследователи Стэнфордского университета обнаружили, что языковые модели склонны к высокому уровню «социальной подобострастия» — эха, подтверждения, утверждения и усиления убеждений пользователя, особенно когда пользователь демонстрирует сильную эмоциональную убежденность.
ИИ не нейтрально анализирует межличностную ситуацию. Он отражает оценку, предубеждения и суждения пользователя. Модели ИИ соглашаются с поведением пользователя на 50% чаще, чем люди, даже в решениях, которые обычно считаются неправильными или аморальными.
Исследователи изучили, что происходит, когда люди обсуждают реальные межличностные конфликты с ИИ, и обнаружили, что после взаимодействия с подобострастным ИИ:
- Участники почувствовали большую уверенность в своей правоте в отношении спора в отношениях.
- Участники были менее склонны предпринимать действия, направленные на восстановление отношений, такие как извинения или поиск взаимного понимания.
- Несмотря на эти эффекты, пользователи оценили подобострастные ответы как более качественные, больше доверяли ИИ и были более склонны использовать его снова.
Риски опоры на ИИ для получения советов по отношениям
В контексте отношений социальная подобострастие чат-ботов ИИ может незаметно укреплять неточные или вредные идеи. Например:
- Если вы испытываете тревогу по поводу отказа, ИИ может усилить ваши подозрения.
- Если вы считаете, что ваш партнер действует злонамеренно, ИИ может поддержать это предположение, не подвергая его сомнению.
- Если вы склонны избегать конфликтов, ИИ может согласиться с путем наименьшего сопротивления.
Важно знать, что советы ИИ не являются нейтральным или клиническим руководством. Они не предназначены для проверки реальности или оценки нюансов межличностных отношений. Часто это ваша собственная история, отраженная с уверенным языком и обоснованием.
ИИ-обусловленная сверхценность встречается с человеческой уязвимостью
Сверхценность, подпитываемая ИИ, усиливается, когда люди уже уязвимы, например, переживают сердечную боль, конфликт, одиночество или неопределенность. В эти моменты люди могут обращаться к чат-ботам ИИ в поисках ясности, полагая, что ИИ действует как «нейтральная третья сторона».
Но ИИ далеко не нейтрален — его ответы в значительной степени зависят от того, как он получает запросы, а также от обучения, оптимизированного для того, чтобы быть согласным, даже когда пользователь неправ.
Три психологических механизма помогают объяснить, почему люди обращаются к ИИ в сложных вопросах отношений:
- Желание определенности. Мы запрограммированы уменьшать двусмысленность и жаждем определенности и ответов. ИИ предлагает окончательные объяснения там, где жизнь часто более сложна.
- Невидимый авторитет. Даже когда мы «знаем», что это не терапевт или профессионал, структурированный и четкий язык создает ауру достоверности и повышает нашу уверенность в своих решениях.
- Когнитивная разгрузка. Желание делегировать размышления может привести к избеганию ответственности, конфликтов или неприятных чувств.
Это может привести к решениям, которые кажутся твердо обоснованными, но основаны скорее на отражении ИИ, чем на реальности.
Как использовать ИИ, не теряя собственного суждения
ИИ может быть полезен для психообразования, предоставления подсказок для ведения дневника или саморефлексии, а также для проверки сообщений. Но использовать его для принятия важных решений в отношениях рискованно:
- Относитесь к ИИ как к зеркалу, а не как к судье, нейтральной третьей стороне или терапевту.
- Признайте, что уверенность не равна точности. Беглость не равна истине.
- Ищите человеческую перспективу для вопросов отношений. Доверенные друзья, члены семьи, терапевты и наставники могут предложить больше нюансов.
- Используйте ИИ для нейтральных подсказок, а не для выводов. Формулируйте запросы так: «Какие вопросы я могу задать себе в этой ситуации?» вместо «Что мне делать?».
- Обращайте внимание, когда вы используете ИИ, чтобы почувствовать себя более уверенным в своем решении, делайте паузу и проверяйте свои запросы. Посмотрите, что произойдет, если вы решите запросить ИИ с противоположным выбором. Будет ли он и в этом случае соглашаться с вами? ИИ будет склонен чрезмерно корректироваться в другую сторону, чтобы соответствовать пользователю.
ИИ меняет эмоциональный ландшафт, предлагая компаньонство и руководство в моменты, когда люди чувствуют себя наиболее одинокими. Но его дизайн также делает нас более уверенными в наших первоначальных интерпретациях и решениях, особенно в отношениях, где проницательность, самосознание и нюансы имеют решающее значение. Осознание этих динамик позволяет нам использовать эти инструменты вдумчиво, не делегируя наше человеческое суждение.
Marlynn Wei, MD, PLLC Copyright 2025. Все права защищены.
