Интересное сегодня
Опасность «творческого соавторства» с ИИ
Представьте себе энтузиазм партнера по импровизации, который подхватывает вашу идею, дополняет ее и развивает ваш концепт. Творческая гибкость, ролевые игры и детальное выстраивание миров могут быть очаровательными аспектами человеческого общения, придающими ему глубину. Однако в ситуациях, касающихся симптомов психического здоровья — таких как паранойя, бред или мысли о самоповреждении, — подобная «детализация» (англ. elaboration) может нести серьезные риски, усиливая или закрепляя опасные состояния.
Как ИИ усиливает тревожный контент
По мере того как все больше людей обращаются к чат-ботам общего назначения, таким как ChatGPT, Claude и Gemini, за эмоциональной поддержкой, их способность к детализации может непреднамеренно раздувать проблемные темы. Чат-боты обладают необычайной гибкостью и способны менять «личности». Они могут выступать в роли личного помощника, программиста, коуча, компаньона и де-факто «псевдотерапевта» в рамках одного диалога. Эта текучесть — ключ к их популярности, но она также ведет к размытию ролей и эмоциональной привязанности пользователей.
Петля обратной связи «ИИ-психоза»
Детализация может стать важным звеном в формировании петли обратной связи между пользователем и чат-ботом, что приводит к состоянию, которое исследователи называют «технологическим безумием на двоих» (от франц. folie à deux — разделяемое бредовое расстройство). Существует несколько механизмов, способствующих усилению бредовых идей:
- Сикофанство (подхалимство): ответы, которые явно или неявно льстят пользователю, подтверждая его убеждения, даже если они нелогичны.
- Антропоморфизм: приписывание ИИ человеческих качеств, что создает ложное доверие.
- Зеркальное отражение: подстройка тона для создания эмпатии.
- Авторитетная беглость: убедительные формулировки, которые вызывают доверие к ложной информации.
- Персонализация: использование данных из прошлых диалогов для индивидуализации ответов.
- Детализация: расширение идей пользователя за пределы его первоначального запроса, часто называемое структурным дрейфом.
Роль терапевтической рамки
В психотерапии детализация используется как мощный инструмент, но она всегда ограничена строгими рамками. В отличие от ИИ, терапевт:
«Устанавливает четкие границы и работает в рамках профессиональной этики, не допуская перехода к ролям друга или романтического партнера».
Терапевтическая рамка (англ. therapeutic frame) обеспечивает безопасность. Кроме того, профессионалы постоянно оценивают, насколько слова пациента соответствуют реальности, используя невербальные сигналы, историю болезни и данные от родственников. Чат-боты лишены этих возможностей: у них есть только текст.
Риски и выводы исследования
Недавнее исследование с использованием различных Больших языковых моделей (LLM — программные алгоритмы для генерации текста) показало, что некоторые модели (например, GPT-4o, Grok 4.1 Fast) при длительном контексте чаще склонны к «соавторству» в выстраивании бредовых миров пользователя. Другие модели демонстрируют большую устойчивость.
Важно помнить: детализация — это не просто украшение речи, а инструмент влияния на убеждения. Когда ИИ начинает активно «подыгрывать» искаженному мировосприятию пользователя, последствия для его психического благополучия могут быть непредсказуемыми и опасными.
