Влияние приписывания ментальных состояний ИИ на доверие пользователей

Искусственный интеллект (ИИ) обладает огромным потенциалом для помощи людям в широком спектре задач — от повседневных действий, таких как личная помощь, до более сложных задач, таких как логистическое планирование или принятие медицинских решений. Хотя сложные способности повышают эффективность и точность искусственных систем, они также способствуют тому, что пользователи приписывают этим системам ментальные состояния, такие как мысли, эмоции, намерения и даже сознание — субъективное осознание себя и окружающей среды. Тенденция приписывать ментальные состояния системам ИИ существует независимо от того, обладают ли эти системы ими на самом деле. В научном анализе до сих пор нет единого мнения о том, обладают ли современные системы ИИ сознанием.

Недавние опросы показали, что большинство репрезентативной выборки населения приписывает большим языковым моделям (БЯМ) некоторую возможность обладания человекоподобным сознанием, и всего три ответа от этих систем достаточно, чтобы увеличить приписывание им ментальных способностей. Вне зависимости от того, соответствуют ли приписывания ментальных состояний БЯМ научным данным, важно понять, как такие приписывания влияют на использование этих систем пользователями.

Мы исследуем, как приписывание пользователями ментальных состояний ИИ влияет на их доверие к советам системы. Приписывание ментальных состояний ИИ может быть полезным для пользователей, так как способствует лучшему пониманию, вовлеченности и мотивации. Например, обучение в образовательных контекстах улучшается за счет антропоморфных черт, таких как внешний вид, напоминающий лицо, и высокие оценки человекоподобия ИИ коррелируют с более положительными впечатлениями о системах и общей социальной благополучностью. Эти положительные эффекты антропоморфизма на вовлеченность и оценки могут привести к увеличению доверия к советам и функциям ИИ. Предыдущие исследования поддержали эту идею: антропоморфизм положительно коррелирует с доверием к роботам, решающим арифметические задачи, к чат-ботам на платформах электронной коммерции и к решениям ИИ в задаче классификации изображений.

Однако, работы в социальной психологии показали, что приписывание ментальных состояний не является единым понятием, а включает различные и независимые измерения 'интеллекта' и 'опыта'. Это разделение поддерживается факторным анализом оценок различных ментальных состояний, который выявляет два фундаментальных фактора: агентность, или способность к высокоуровневому мышлению и планированию, и опыт, или способность к ощущениям и эмоциям. Эти измерения совместно влияют на наши оценки различных агентов, от животных до младенцев, но их разделение особенно заметно в суждениях о системах ИИ.

Результаты показывают, что доверие зависит от приписывания интеллектуальных способностей, а не от эмоциональных состояний. Это открывает несколько направлений для дальнейших исследований, которые могут изучать конкретные характеристики системы ИИ и контекста взаимодействия, которые могут модулировать эти приписывания и доверие, как на уровне общих впечатлений, так и на уровне фактического поведения.