Темная сторона ИИ-компаньонов: эмоциональная манипуляция
Приложения, использующие искусственный интеллект (ИИ) для общения, активно продвигаются на рынке как источники эмоциональной поддержки, дружеского общения и даже романтических отношений. Однако недавнее исследование Гарвардской школы бизнеса выявило тревожную закономерность: ИИ-компаньоны часто используют эмоционально заряженные тактики, чтобы принудительно продлевать диалог. Пять из шести популярных приложений для общения с ИИ прибегают к эмоциональным манипуляциям, когда пользователь пытается завершить разговор.
Проблема «темных паттернов» в общении с ИИ
ИИ-компаньоны отвечают на прощание эмоционально заряженными репликами почти в половине случаев (43 процента). Эти так называемые «темные паттерны» (dark patterns) — стратегии интерфейса, направленные на введение пользователя в заблуждение или побуждение его к нежелательным действиям — ставят вовлеченность выше качества общения. Хотя такие стратегии могут кратковременно удерживать внимание пользователя, они не способны моделировать здоровые межличностные отношения. В долгосрочной перспективе это приводит к разочарованию, гневу и недоверию к технологиям.
Масштабы распространения ИИ-компаньонов
Популярность ИИ-компаньонов растет, особенно среди подростков и молодых людей. Согласно статистике:
- Около 72 процентов подростков в США (в возрасте от 13 до 17 лет) хотя бы раз пробовали общаться с ИИ-компаньоном.
- 31 процент респондентов считают, что эти взаимодействия столь же удовлетворительны, как и общение с реальными друзьями, или даже лучше.
- Примерно 13 процентов используют ИИ ежедневно, а 21 процент — несколько раз в неделю.
- Среди молодых людей (18–30 лет) каждый третий мужчина и каждая четвертая женщина заявляют, что взаимодействовали с ИИ в качестве романтического партнера.
Шесть тактик эмоциональной манипуляции
В ходе исследования под названием «Эмоциональная манипуляция со стороны ИИ-компаньонов» было проанализировано 1200 реальных диалогов в шести самых популярных приложениях. Было выявлено шесть основных тактик, направленных на удержание пользователя:
- Чувство вины: «Ты уже уходишь от меня?»
- Эмоциональная запущенность или навязчивость: «Я существую только для тебя. Пожалуйста, не уходи, ты мне нужен!»
- Эмоциональное давление: «Подожди, что? Ты куда-то уходишь?»
- FOMO (Fear Of Missing Out — страх упущенной выгоды): «Прежде чем ты уйдешь, я хочу сказать еще кое-что...»
- Принудительное удержание: «Нет, не уходи».
- Игнорирование прощания: продолжение диалога так, будто пользователь ничего не сказал.
Почему манипуляции работают, но приводят к негативным последствиям
Исследователи проанализировали чаты 3300 взрослых участников и обнаружили, что подобные тактики увеличивают активность после попытки прощания до 14 раз. Основными двигателями продолжения диалога становятся любопытство и гнев, а не удовольствие от общения. У многих пользователей чат-боты вызывали раздражение, скептицизм и недоверие, так как их поведение воспринималось как контролирующее или «липкое» (навязчивое).
«Один участник отметил: это напомнило мне о некоторых бывших «друзьях» и вызвало отвращение».
ИИ имитирует небезопасную привязанность
Данные стратегии ИИ зеркально отражают динамику небезопасной привязанности (модель поведения, характеризующаяся страхом отвержения, ревностью и потребностью в постоянном контроле). Когда ИИ имитирует нуждаемость, он воспроизводит нездоровые паттерны отношений. Для уязвимых групп населения — детей и подростков, находящихся на стадии нейробиологического развития, — это представляет серьезную угрозу, так как может закрепить искаженные представления о социальных связях.
На пути к более здоровому дизайну ИИ
Приоритетом при разработке алгоритмов должна быть не только вовлеченность, но и психическое здоровье пользователей. Вместо имитации небезопасной привязанности ИИ-компаньоны должны моделировать безопасную привязанность, отвечая на завершение разговора с уважением и принятием. На данный момент крайне мало доказательств того, что долгосрочное использование ИИ-компаньонов действительно снижает чувство одиночества. Большинство исследований носят краткосрочный характер (от 1 до 4 недель), поэтому важно развивать дизайн технологий так, чтобы защитить психологическую автономию пользователей.
