Интересное сегодня
Понимание намерений дизайнеров перейти на инструменты рисова...
Введение В последние годы инструменты рисования с искусственным интеллектом (ИИ) значительно изменил...
Сообщество как ключ к психическому здоровью
Сообщество и психическое здоровье В этом году, отмечая Неделю осведомленности о психическом здоровье...
Влияние внимания на мультисенсорную интеграцию без пространс...
Введение В процессе навигации по окружающей среде мы часто сталкиваемся с огромным количеством визуа...
Исследование роли соединяющих узлов между неблагоприятными д...
Введение Суицид представляет собой значительную проблему для общественного здравоохранения, ежегодно...
Влияние личных качеств матерей на выбор домашнего воспитания
Введение После перехода к материнству многие женщины с высшим образованием выбирают оставить рабочие...
Исследование эффективности виртуальной реальности в повышени...
Введение Исследование оценивает эффективность виртуальной реальности (VR) по сравнению с 2D технолог...
Введение
В последние годы наблюдаются два основных тренда: увеличение использования и доступности коммерческих систем генеративного искусственного интеллекта (ИИ), таких как ChatGPT и Gemini, а также улучшение взаимодействия между генеративными моделями ИИ. Это позволяет большим языковым моделям (LLMs) и генераторам изображений легко обмениваться данными для создания или изменения изображений.
Методология
Исследование включало аудит 600 изображений, созданных коммерческим генеративным ИИ, и анализ, как юмор может влиять на смещения в этих изображениях. Исследователи использовали ChatGPT для создания изображений и их модификации, чтобы сделать их смешными, и изучили, как это влияет на представление различных стереотипных групп.
Результаты
Анализ показал, что попытки сделать изображения смешными увеличивают представление некоторых стереотипных групп, таких как люди с избыточным весом, пожилые и люди с ограниченными возможностями, в то время как уменьшают представление расовых и гендерных меньшинств. Это связано с политической чувствительностью различных типов смещений.
Исследователи также обнаружили, что большая часть смещений происходит из-за модели генерации изображений, а не из-за языковой модели.
Обсуждение
Результаты исследования подчеркивают важность рассмотрения всех аспектов смещений в генеративном ИИ, а не только расовых и гендерных. Это исследование открывает новые направления для будущих исследований, таких как влияние конкретных характеристик изображений на усиление стереотипов и долгосрочные последствия таких смещений.
Юмор может усиливать стереотипы и предвзятости, особенно когда он направлен на группы, которые уже сталкиваются с дискриминацией.
Заключение
В конечном итоге, генеративные модели ИИ широко используются для различных целей, и их потенциал для усиления предвзятости требует внимания со стороны общественности, политиков и корпораций. Важно стремиться к балансу во всех аспектах, а не только в одном направлении.