Интересное сегодня
Миф о креативности левшей: новое исследование опровергает да...
Вековая вера в то, что левши более креативны, была поставлена под сомнение новым метаанализом, охват...
Влияние виртуальных конечностей на ощущение владения телом: ...
Эффекты виртуальных конечностей на время возникновения и продолжительность иллюзорного владения тело...
Аутизм и ОКР: сходства и различия, диагностика и лечение
Аутизм и ОКР: общие черты и различия Расстройство аутистического спектра (РАС) и обсессивно-компульс...
Как физиология влияет на спортивные результаты: разбор пораж...
Финал Уимблдона. Центральный корт. 15 000 человек, верящих в Аманду Анисимову Но по ходу матча её те...
Как развить эмоциональный интеллект и улучшить качество жизн...
Введение Эмоционально интеллектуальные люди в целом более счастливы в жизни и более удовлетворены св...
Почему макаки, как и люди, предпочитают смотреть видео с кон...
Макаки и люди: неожиданное сходство в предпочтениях видео Исследование, проведённое учёными из Униве...
Введение
В последние годы наблюдаются два основных тренда: увеличение использования и доступности коммерческих систем генеративного искусственного интеллекта (ИИ), таких как ChatGPT и Gemini, а также улучшение взаимодействия между генеративными моделями ИИ. Это позволяет большим языковым моделям (LLMs) и генераторам изображений легко обмениваться данными для создания или изменения изображений.
Методология
Исследование включало аудит 600 изображений, созданных коммерческим генеративным ИИ, и анализ, как юмор может влиять на смещения в этих изображениях. Исследователи использовали ChatGPT для создания изображений и их модификации, чтобы сделать их смешными, и изучили, как это влияет на представление различных стереотипных групп.
Результаты
Анализ показал, что попытки сделать изображения смешными увеличивают представление некоторых стереотипных групп, таких как люди с избыточным весом, пожилые и люди с ограниченными возможностями, в то время как уменьшают представление расовых и гендерных меньшинств. Это связано с политической чувствительностью различных типов смещений.
Исследователи также обнаружили, что большая часть смещений происходит из-за модели генерации изображений, а не из-за языковой модели.
Обсуждение
Результаты исследования подчеркивают важность рассмотрения всех аспектов смещений в генеративном ИИ, а не только расовых и гендерных. Это исследование открывает новые направления для будущих исследований, таких как влияние конкретных характеристик изображений на усиление стереотипов и долгосрочные последствия таких смещений.
Юмор может усиливать стереотипы и предвзятости, особенно когда он направлен на группы, которые уже сталкиваются с дискриминацией.
Заключение
В конечном итоге, генеративные модели ИИ широко используются для различных целей, и их потенциал для усиления предвзятости требует внимания со стороны общественности, политиков и корпораций. Важно стремиться к балансу во всех аспектах, а не только в одном направлении.
