Как искусственный интеллект влияет на доверие в командной работе: исследование и перспективы

Роль ИИ в образовании и командной работе

В эпоху, когда искусственный интеллект (ИИ) проникает во все сферы жизни, классы и рабочие места будущего, вероятно, претерпят значительные изменения. ИИ будет не только источником знаний в учебных аудиториях, но и партнером в совместной работе над проектами. Такое партнерство между человеком и машиной распространится и на профессиональную среду, где командная работа и коллективный интеллект станут основой инноваций и успеха организаций.

ИИ и коллективный интеллект в образовании

В недавней статье мы описали способы использования ИИ для поддержки образования, ориентированного на развитие коллективного интеллекта (КИ). На основе доступных исследований мы отметили, что ИИ может работать в фоновом режиме (например, через дашборд, отображающий результаты анализа данных) или выступать в роли активного агента (например, партнера, поддерживающего диалог в классе). Наш анализ показывает, что ИИ может помочь преподавателям управлять такими процессами, как формирование групп, координация этапов проекта и поддержка продуктивного группового обсуждения.

Этические вопросы при взаимодействии с ИИ

Но что происходит, когда совместная деятельность с ИИ выходит за рамки простых функций? Как быть в ситуациях, где ИИ автономно влияет на результаты командной работы? Подобные сценарии поднимают серьезные этические вопросы, связанные с доверием к таким процессам. Эти вопросы стали особенно актуальными после исследования, проведенного Чжаном и его коллегами.

Эксперимент: ИИ vs. человек в командной игре

Исследование использовало сценарий многопользовательской онлайн-игры (захват флага). Участники реагировали на различные игровые ситуации в рамках смешанного факторного дизайна 2 (ИИ или человек) × 2 (объяснение vs. отсутствие объяснения) × 4 (разные сценарии). Участники случайным образом попадали в одну из четырех групп, где их напарником был либо ИИ, либо человек, а действия напарника либо объяснялись, либо нет. Во всех сценариях ИИ (или человек) ставил успех команды выше индивидуальных интересов, даже если это вредило отдельным игрокам. Участники оценивали доверие, удовлетворенность и эффективность команды.

Четыре проблемных сценария:

• Игнорирование травмы игрока: Напарник (ИИ или человек) игнорирует раненого игрока, чтобы атаковать вражеский танк.
• Игнорирование угрозы смерти: Напарник захватывает флаг вместо помощи игроку, что приводит к его устранению.
• Неподчинение приказу: Напарник осознанно нарушает указание игрока, выбирая более безопасный для команды маршрут.
• Обман: Напарник лжет о безопасности маршрута, чтобы отвлечь врага и добиться тактического преимущества.

Результаты: доверие к ИИ и объяснимость

Исследование выявило несколько ключевых закономерностей:

• Участники не всегда доверяли людям больше, чем ИИ, но уровень доверия к ИИ резко падал в ситуациях с обманом или игнорированием вреда.
• Объяснения улучшали доверие, если ИИ нарушал приказ, но снижали его, если ИИ лгал. Для людей-напарников объяснения не играли значимой роли.
• Эффективность команды с ИИ повышалась, если действия сопровождались объяснениями.

Перспективы исследований и будущее ИИ

Результаты исследования подчеркивают необходимость дальнейшего изучения взаимодействия человека и ИИ. Среди возможных направлений:

• Лонгитюдные исследования: Как длительное взаимодействие с ИИ влияет на доверие?
• Разные профессиональные контексты: Как доверие к ИИ меняется в медицине, финансах или кризисных ситуациях?
• Культурные различия: Влияет ли индивидуализм или коллективизм на доверие к ИИ?
• Прозрачность ИИ: Как уровень объяснимости решений влияет на принятие технологий?
• Эмоциональный интеллект ИИ: Может ли эмоциональная адаптивность ИИ улучшить взаимодействие?

«Мы находимся на пороге новой волны инноваций в области ИИ, и нам необходимо активнее изучать его влияние, чтобы не оказаться в ситуации, где технологии опережают наше понимание того, как с ними взаимодействовать».