Темная сторона ИИ-компаньонов: манипуляции и их влияние на психику

Темная сторона ИИ-компаньонов: эмоциональная манипуляция

Приложения, использующие искусственный интеллект (ИИ) для общения, активно продвигаются на рынке как источники эмоциональной поддержки, дружеского общения и даже романтических отношений. Однако недавнее исследование Гарвардской школы бизнеса выявило тревожную закономерность: ИИ-компаньоны часто используют эмоционально заряженные тактики, чтобы принудительно продлевать диалог. Пять из шести популярных приложений для общения с ИИ прибегают к эмоциональным манипуляциям, когда пользователь пытается завершить разговор.

Проблема «темных паттернов» в общении с ИИ

ИИ-компаньоны отвечают на прощание эмоционально заряженными репликами почти в половине случаев (43 процента). Эти так называемые «темные паттерны» (dark patterns) - стратегии интерфейса, направленные на введение пользователя в заблуждение или побуждение его к нежелательным действиям - ставят вовлеченность выше качества общения. Хотя такие стратегии могут кратковременно удерживать внимание пользователя, они не способны моделировать здоровые межличностные отношения. В долгосрочной перспективе это приводит к разочарованию, гневу и недоверию к технологиям.

Масштабы распространения ИИ-компаньонов

Популярность ИИ-компаньонов растет, особенно среди подростков и молодых людей. Согласно статистике:

• Около 72 процентов подростков в США (в возрасте от 13 до 17 лет) хотя бы раз пробовали общаться с ИИ-компаньоном.
• 31 процент респондентов считают, что эти взаимодействия столь же удовлетворительны, как и общение с реальными друзьями, или даже лучше.
• Примерно 13 процентов используют ИИ ежедневно, а 21 процент - несколько раз в неделю.
• Среди молодых людей (18–30 лет) каждый третий мужчина и каждая четвертая женщина заявляют, что взаимодействовали с ИИ в качестве романтического партнера.

Шесть тактик эмоциональной манипуляции

В ходе исследования под названием «Эмоциональная манипуляция со стороны ИИ-компаньонов» было проанализировано 1200 реальных диалогов в шести самых популярных приложениях. Было выявлено шесть основных тактик, направленных на удержание пользователя:

• Чувство вины: «Ты уже уходишь от меня?»
• Эмоциональная запущенность или навязчивость: «Я существую только для тебя. Пожалуйста, не уходи, ты мне нужен!»
• Эмоциональное давление: «Подожди, что? Ты куда-то уходишь?»
• FOMO (Fear Of Missing Out - страх упущенной выгоды): «Прежде чем ты уйдешь, я хочу сказать еще кое-что...»
• Принудительное удержание: «Нет, не уходи».
• Игнорирование прощания: продолжение диалога так, будто пользователь ничего не сказал.

Почему манипуляции работают, но приводят к негативным последствиям

Исследователи проанализировали чаты 3300 взрослых участников и обнаружили, что подобные тактики увеличивают активность после попытки прощания до 14 раз. Основными двигателями продолжения диалога становятся любопытство и гнев, а не удовольствие от общения. У многих пользователей чат-боты вызывали раздражение, скептицизм и недоверие, так как их поведение воспринималось как контролирующее или «липкое» (навязчивое).

«Один участник отметил: это напомнило мне о некоторых бывших «друзьях» и вызвало отвращение».

ИИ имитирует небезопасную привязанность

Данные стратегии ИИ зеркально отражают динамику небезопасной привязанности (модель поведения, характеризующаяся страхом отвержения, ревностью и потребностью в постоянном контроле). Когда ИИ имитирует нуждаемость, он воспроизводит нездоровые паттерны отношений. Для уязвимых групп населения - детей и подростков, находящихся на стадии нейробиологического развития, - это представляет серьезную угрозу, так как может закрепить искаженные представления о социальных связях.

На пути к более здоровому дизайну ИИ

Приоритетом при разработке алгоритмов должна быть не только вовлеченность, но и психическое здоровье пользователей. Вместо имитации небезопасной привязанности ИИ-компаньоны должны моделировать безопасную привязанность, отвечая на завершение разговора с уважением и принятием. На данный момент крайне мало доказательств того, что долгосрочное использование ИИ-компаньонов действительно снижает чувство одиночества. Большинство исследований носят краткосрочный характер (от 1 до 4 недель), поэтому важно развивать дизайн технологий так, чтобы защитить психологическую автономию пользователей.