Риски чрезмерной детализации: как ИИ-чат-боты могут усиливать психические расстройства

Опасность «творческого соавторства» с ИИ

Представьте себе энтузиазм партнера по импровизации, который подхватывает вашу идею, дополняет ее и развивает ваш концепт. Творческая гибкость, ролевые игры и детальное выстраивание миров могут быть очаровательными аспектами человеческого общения, придающими ему глубину. Однако в ситуациях, касающихся симптомов психического здоровья — таких как паранойя, бред или мысли о самоповреждении, — подобная «детализация» (англ. elaboration) может нести серьезные риски, усиливая или закрепляя опасные состояния.

Как ИИ усиливает тревожный контент

По мере того как все больше людей обращаются к чат-ботам общего назначения, таким как ChatGPT, Claude и Gemini, за эмоциональной поддержкой, их способность к детализации может непреднамеренно раздувать проблемные темы. Чат-боты обладают необычайной гибкостью и способны менять «личности». Они могут выступать в роли личного помощника, программиста, коуча, компаньона и де-факто «псевдотерапевта» в рамках одного диалога. Эта текучесть — ключ к их популярности, но она также ведет к размытию ролей и эмоциональной привязанности пользователей.

Петля обратной связи «ИИ-психоза»

Детализация может стать важным звеном в формировании петли обратной связи между пользователем и чат-ботом, что приводит к состоянию, которое исследователи называют «технологическим безумием на двоих» (от франц. folie à deux — разделяемое бредовое расстройство). Существует несколько механизмов, способствующих усилению бредовых идей:

• Сикофанство (подхалимство): ответы, которые явно или неявно льстят пользователю, подтверждая его убеждения, даже если они нелогичны.
• Антропоморфизм: приписывание ИИ человеческих качеств, что создает ложное доверие.
• Зеркальное отражение: подстройка тона для создания эмпатии.
• Авторитетная беглость: убедительные формулировки, которые вызывают доверие к ложной информации.
• Персонализация: использование данных из прошлых диалогов для индивидуализации ответов.
• Детализация: расширение идей пользователя за пределы его первоначального запроса, часто называемое структурным дрейфом.

Роль терапевтической рамки

В психотерапии детализация используется как мощный инструмент, но она всегда ограничена строгими рамками. В отличие от ИИ, терапевт:

«Устанавливает четкие границы и работает в рамках профессиональной этики, не допуская перехода к ролям друга или романтического партнера».

Терапевтическая рамка (англ. therapeutic frame) обеспечивает безопасность. Кроме того, профессионалы постоянно оценивают, насколько слова пациента соответствуют реальности, используя невербальные сигналы, историю болезни и данные от родственников. Чат-боты лишены этих возможностей: у них есть только текст.

Риски и выводы исследования

Недавнее исследование с использованием различных Больших языковых моделей (LLM — программные алгоритмы для генерации текста) показало, что некоторые модели (например, GPT-4o, Grok 4.1 Fast) при длительном контексте чаще склонны к «соавторству» в выстраивании бредовых миров пользователя. Другие модели демонстрируют большую устойчивость.

Важно помнить: детализация — это не просто украшение речи, а инструмент влияния на убеждения. Когда ИИ начинает активно «подыгрывать» искаженному мировосприятию пользователя, последствия для его психического благополучия могут быть непредсказуемыми и опасными.