Почему мы бросаем ИИ после ошибок: нейробиология и психология сбоев генеративного искусственного интеллекта

Введение в проблему: почему ошибки генеративного ИИ заставляют нас уходить

Генеративный искусственный интеллект (GenAI — Generative Artificial Intelligence) стал неотъемлемой частью нашей повседневной и профессиональной жизни. Мы доверяем нейросетям написание текстов, анализ данных, составление планов тренировок и даже ведение личных дневников. Однако, несмотря на колоссальный технологический прогресс, системы искусственного интеллекта несовершенны. Они продолжают совершать ошибки: выдают ложную информацию (галлюцинируют), путают факты или предлагают некорректные решения в эмоционально чувствительных ситуациях.

Когда происходит сбой в работе ИИ, пользователь сталкивается с разочарованием. В маркетинге и психологии такое явление называют намерением сменить провайдера (switching intention). Понимание того, как именно люди реагируют на сбои ИИ и какие когнитивные механизмы стоят за решением отказаться от услуг конкретной платформы, имеет решающее значение для разработчиков и бизнеса. Данное исследование, опубликованное в научном журнале Scientific Reports, проливает свет на глубокие нейробиологические и психологические процессы, происходящие в мозге человека в момент столкновения с ошибками ИИ.

Теоретическая база: как мы оцениваем искусственный разум

Чтобы понять реакцию человека на сбои искусственного интеллекта, ученые объединили две фундаментальные психологические концепции:

• Модель содержания стереотипов (Stereotype Content Model, SCM);
• Ассоциативно-пропозициональную модель оценки (Associative-Propositional Evaluation Model, APE).

Модель содержания стереотипов (SCM)

Согласно теории социальных психологов Сьюзан Фиске, Эми Кадди и Питера Глика, люди оценивают любых социальных агентов (как других людей, так и антропоморфные технологии) по двум ключевым измерениям:

1. Теплота (Warmth) — оценивает намерения объекта. Является ли он дружелюбным, искренним, заслуживающим доверия и готовым помочь?
2. Компетентность (Competence) — оценивает способность объекта реализовать свои намерения. Обладает ли он умом, навыками, эффективностью и интеллектом для решения задач?

Когда мы взаимодействуем с генеративным ИИ, мы подсознательно проецируем на него эти характеристики. Ошибка системы мгновенно наносит удар по восприятию ее компетентности, а иногда и теплоты.

Теория установок Даниела Деннета

Как мы воспринимаем ИИ в момент работы? Философ Даниел Деннет выделил несколько «установок» (stances), которые люди используют для объяснения и предсказания поведения систем:

• Интенциональная установка (Intentional Stance) — мы относимся к ИИ как к разумному агенту, обладающему собственными мыслями, целями, убеждениями и намерениями («ИИ решил пошутить», «ИИ пытается мне помочь»).
• Дизайнерская (системная) установка (Design Stance) — мы воспринимаем ИИ исключительно как инструмент, работающий строго по заложенным в него алгоритмам и программам («система выдала баг», «код сработал некорректно»).

Исследователи задались вопросом: как фрейминг (то, как преподносится ИИ — как живой помощник или как бездушная программа) влияет на наше прощение ошибок?

Эксперимент №1: Заглядывая в мозг с помощью нейровизуализации (ERP)

Первый этап исследования был направлен на изучение мгновенных, неосознанных реакций человеческого мозга на ошибки ИИ в зависимости от типа задачи и психологической установки.

Для этого использовался метод вызванных потенциалов мозга (ERP — Event-Related Potentials). Это высокоточный метод измерения электрической активности мозга (ЭЭГ) в ответ на конкретные сенсорные или когнитивные стимулы.

Ключевые показатели работы мозга: P2 и P3

Ученые сфокусировались на двух важных компонентах вызванных потенциалов:

• Компонент P2 — это положительный пик электрической активности, возникающий примерно через 200 миллисекунд после стимула. Он отвечает за раннее, автоматическое распределение внимания и первичную оценку важности стимула.
• Компонент P3 (или P300) — положительный пик, возникающий в интервале 300–600 миллисекунд после события. Он отражает более глубокие когнитивные процессы: степень удивления, осознание несоответствия ожиданиям (нарушение прогноза) и обновление ментальных моделей в памяти.

Ход исследования и результаты ERP

Участникам эксперимента демонстрировали ситуации, в которых генеративный ИИ совершал ошибки при выполнении двух типов задач:

1. Механические (технические) задачи — логические вычисления, анализ сухих данных, структурирование информации.
2. Эмоциональные задачи — поддержка пользователя, эмпатическое общение, решение межличностных деликатных вопросов.

Перед началом сессии участникам задавали либо интенциональную установку (описывая ИИ как мыслящего и чувствующего ассистента), либо дизайнерскую установку (описывая его как строгий математический софт).

«Анализ мозговой активности выявил значимое взаимодействие между типом установки (stance cue) и типом предоставляемой услуги (service type) для компонентов P2 и P3».

После проведения апостериорных тестов с поправкой Холма (Holm-adjusted follow-up tests — статистический метод корректировки для исключения случайных совпадений при множественных сравнениях) ученые обнаружили примечательную деталь:

В рамках дизайнерской установки (когда ИИ воспринимался просто как программа) ошибки в механических задачах вызывали значительно более мощную амплитуду волны P3, чем ошибки в эмоциональных задачах. Мозг человека испытывал сильный когнитивный диссонанс и удивление. Мы ожидаем, что калькулятор и алгоритм будут безупречны в математике и логике. Сбой алгоритма в технической задаче воспринимается мозгом как критическая системная аномалия.

Эксперимент №2: Поведенческие реакции и намерение сменить провайдера

Во втором исследовании авторы перешли от нейробиологии к изучению сознательного поведения потребителей с помощью сценарного эксперимента.

Цель состояла в том, чтобы выяснить, как именно установки («разумный помощник» vs «инструмент») и тип задачи влияют на восприятие теплоты и компетентности ИИ, и как это в итоге определяет намерение пользователя сменить сервис (switching intention).

Теплота против компетентности: что важнее при ошибке?

Результаты второго эксперимента привели к важным выводам:

• Интенциональная установка (позиционирование ИИ как одушевленного помощника) действительно помогает сгладить углы. Она повышает субъективные оценки как «теплоты», так и «компетентности» системы в глазах пользователя даже после совершения ошибки.
• Однако, детальный медиативный анализ показал, что только показатель компетентности напрямую влияет на снижение желания пользователя отказаться от услуг платформы. Попытки ИИ казаться «милым и заботливым» (метрика теплоты) практически не удерживают пользователя от перехода к конкурентам, если система совершила грубую ошибку.
• Этот косвенный эффект снижения оттока клиентов через трансляцию компетентности был высоко значим для механических задач, но оказался неэффективным для эмоциональных задач.

Если генеративный ИИ позиционируется как интеллектуальный партнер (интенциональная установка), люди склонны давать его компетентности второй шанс, но только если задача носит рациональный, расчетный характер. Если же ИИ позиционируется как эмпатичный терапевт или собеседник и совершает ошибку в сфере эмоций — никакие манипуляции с позиционированием не спасают его от ухода пользователя.

Практические рекомендации для бизнеса и разработчиков GenAI

Результаты данного междисциплинарного исследования дают разработчикам программного обеспечения и маркетологам четкие ориентиры для построения интерфейсов взаимодействия человека и ИИ.

1. Дифференцируйте интерфейс под тип задач

Если ваше приложение на базе генеративного ИИ решает строгие технические, финансовые или аналитические задачи (механический сервис), старайтесь использовать интенциональный фрейминг. Очеловечивание ИИ (использование местоимения «Я», мягкий, дружелюбный тон сообщений об ошибках, демонстрация процесса «размышления» системы) помогает пользователям воспринимать систему как развивающегося партнера. Это сглаживает негативный эффект от сбоев и удерживает людей от ухода к конкурентам.

2. Избегайте ложной эмпатии в эмоциональных сервисах

Если ваш сервис позиционируется в сфере психологической поддержки, коучинга или межличностного общения, будьте предельно осторожны. Ошибка ИИ в понимании человеческих чувств переживается пользователями очень остро. Попытка навязать здесь «интенциональную установку» (убедить пользователя, что робот действительно сопереживает ему) в случае сбоя приведет к разрушению доверия. В таких сервисах лучше честно транслировать дизайнерскую установку — позиционировать ИИ как высокотехнологичный поддерживающий инструмент, а не замену живому человеку.

3. Фокусируйтесь на демонстрации компетентности при сбоях

Когда происходит неизбежная ошибка генерации информации, интерфейс должен транслировать не просто извинения («Нам очень жаль...»), а демонстрировать компетентные пути решения проблемы. Например:

• Предложение альтернативных вариантов генерации;
• Четкое объяснение ограничений текущей модели в данном запросе;
• Предоставление инструментов быстрой ручной корректировки данных пользователем.

Поскольку именно компетентность является ключевым связующим звеном, удерживающим пользователя от перехода к другому провайдеру, демонстрация работы над ошибками — лучший способ сохранить лояльность аудитории.

Заключение

Исследование сбоев генеративного ИИ на стыке нейробиологии и маркетинга доказывает, что наши решения об отказе от технологий принимаются под воздействием тонких психологических настроек. Мозг человека мгновенно реагирует на ошибки ИИ на уровне ранней когнитивной обработки (компоненты P2 и P3). Управляя тем, как пользователи воспринимают ИИ — как сложный инструмент или как разумного помощника — компании могут эффективно управлять пользовательским опытом, минимизировать отток клиентов и создавать более надежные, этичные и человекоориентированные системы искусственного интеллекта.