Сравнение дискриминационного поведения против ИИ и людей

Обзор исследования

Хотя дискриминация обычно рассматривается как происходящая из четко определенных категорий, таких как этническая принадлежность, инвалидность и пол, исследования показывают, что дискриминация сохраняется даже в условиях, лишенных таких категорий. Участники экспериментов предпочитали распределять ресурсы на основе, казалось бы, случайных общих характеристик, таких как выбор оценки точек. В данном исследовании мы использовали предварительно зарегистрированный эксперимент (n = 500), чтобы выяснить, дискриминируют ли люди аналогичным образом, взаимодействуя с агентами искусственного интеллекта (ИИ), которые предположительно сделали оценки точек.

Гипотезы и ожидания

Мы предположили, что у людей есть предвзятость против алгоритмов по сравнению с другими людьми, известная как "отвращение к алгоритму". Мы ожидали, что сила дискриминационного поведения может быть больше против ИИ, чем против людей. Однако, как оказалось, участники распределяли ресурсы аналогичным образом, хотя и неравномерно, как между человеческими, так и ИИ-агентами. В частности, участники отдавали предпочтение другому агенту, когда решения были согласованы.

Методология исследования

Главным экспериментом была оценка того, насколько число точек на экране превышает указанное значение. Участникам предстояло распределить ресурсы между ИИ и человеком, в зависимости от того, совпадали ли их оценки.

Ожидаемые результаты

• Участники проявят дискриминационное поведение, основанное на совпадении решений.
• Сравнение дискриминационного поведения между людьми и ИИ покажет аналогичные результаты.

Результаты

Результаты показывают, что участники использовали дискриминационные стратегии против обоих - как человеческих, так и ИИ-агентов. Выявление этих стратегий произошло с помощью так называемых "влекомых оценок", которые парируют два противоположных стратегии распределения. Статистический анализ показал, что распределение ресурсов было менее зависимо от идентичности получателя.

Обсуждение и выводы

Наши результаты противоречат ожиданиям о том, что отвращение к алгоритмам усилит дискриминационное поведение. Участники подвергали одинаковым дискриминационным стратегиям как людей, так и ИИ. Это указывает на то, что предвзятость к ИИ, по всей видимости, не настолько значима в минимальных условиях взаимодействия.

Направления для будущих исследований

Дальнейшие исследования могут сосредоточиться на более сложных взаимодействиях и задачах, где ИИ может проявлять свои способности. Исследование области, где предвзятости имеют большее значение, может значительно углубить понимание нашего отношения к ИИ.