Лица, созданные ИИ, кажутся реальнее настоящих: феномен AI гиперреализма

Лица, созданные искусственным интеллектом, стали неотличимы от настоящих

Современные технологии искусственного интеллекта достигли уровня, при котором лица, сгенерированные с помощью алгоритмов машинного обучения, практически невозможно отличить от фотографий реальных людей. Более того, по результатам новейших исследований, такие AI-сгенерированные лица могут восприниматься людьми как даже более правдоподобные и достоверные, чем настоящие человеческие черты лица. Этот феномен учёные назвали «AI гиперреализм» — удивительное свойство синтетических изображений казаться «более реальными, чем реальность».

Даже лучшие участники экспериментов по детекции ИИ-изображений правильно определяли сгенерированные лица лишь в 80% случаев. Это означает, что каждый пятый искусственный образ проходит незамеченным для внимательного наблюдателя, что ставит серьёзные вопросы о надёжности человеческого восприятия в эпоху цифровых технологий.

Как работают сгенерированные лица: генеративно-состязательные сети

Лица, созданные ИИ, генерируются при помощи так называемых генеративно-состязательных сетей (Generative Adversarial Networks, GANs). Этот подход заключается в конкуренции двух нейронных сетей друг с другом:

• Генератор — создаёт изображение вымышленного человека, стараясь сделать его максимально реалистичным.
• Дискриминатор — обучается отличать синтетическое изображение от настоящих фотографий человеческих лиц.

В ходе множества итераций генератор всё лучше учится создавать правдоподобные лица, пока дискриминатор не перестаёт надёжно различать синтетическое изображение от реального. Результатом являются портреты, которые визуально неотличимы от обычных фотографий.

Ранее у ИИ-сгенерированных изображений было множество «подсказок» для наблюдателя: искажения на заднем плане, проблемы с симметрией очков или серёг, неестественные текстуры кожи. Однако современные алгоритмы давно преодолели эти ограничения, и сегодня синтетические лица фактически неотличимы от настоящих.

Любой желающий может проверить свои способности к распознаванию ИИ-лиц на специальном сайте Which Face Is Real, который предлагает интерактивный тест на различение сгенерированных и реальных фотографий.

AI гиперреализм: почему синтетические лица кажутся правдоподобнее

Одним из наиболее интересных открытий исследования стало явление, получившее название «AI гиперреализм» — ситуация, при которой некоторые сгенерированные ИИ лица с большей вероятностью воспринимаются людьми как реальные человеческие лица, чем настоящие фотографии людей. Исследователи выявили, что ИИ-лица чаще оцениваются как человеческие, если они обладают следующими характеристиками:

• Более пропорциональные черты — идеальное соотношение элементов лица.
• «Оживлённость» глаз — выразительный, живой взгляд.
• Знакомость — ощущение, что лицо уже встречалось ранее.
• Низкая запоминаемость — лицо не выделяется, является «средним».
• Симметрия — идеальная симметрия лица.
• Привлекательность — эстетически pleasing черты.
• Гладкая кожа — отсутствие дефектов и несовершенств.

Таким образом, ИИ-лица, которые воспринимаются как более среднестатистические, менее индивидуальные, менее запоминающиеся, при этом более привлекательные и знакомые, с наибольшей вероятностью считаются людьми реальными. Это парадокс: стремление к идеалу внешности приводит к тому, что результат выглядит «слишком хорошо», но при этом вызывает больше доверия у наблюдателя.

Расовая предвзятость в моделях генерации лиц

Ещё одрин важный аспект исследования касается предвзятости (bias), содержащейся в моделях генерации лиц. Известно, что системы искусственного интеллекта воспроизводят искажения, заложенные в данных, на которых они обучались. В данном исследовании было установлено, что белые лица, синтезированные ИИ, особенно хорошо имитируют реальные, даже по сравнению с настоящими фотографиями людей.

Вероятной причиной этого является использованный в исследовании алгоритм — Nvidia StyleGAN2, система генерации изображений, выпущенная в 2020 году и обученная преимущественно на изображениях белых людей: 69% данных приходилось на белых людей и лишь 31% — на все остальные расы в совокупности. Эта предвзятость в данных привела к тому, что белые ИИ-лица выглядят более «средними» по сравнению с другими, что, в свою очередь, делает их особенно реалистичными и правдоподобными в глазах наблюдателей.

Исследование обновлённых моделей генерации лиц является важной задачей на будущее. Кроме того, данная предвзятость несёт серьёзные последствия в тех областях, где технологии распознавания и генерации лиц применяются в правоохранительных органах или медицине. Ошибочная идентификация или некорректное представительство определённых этнических групп может иметь далеко идущие социальные последствия.

Парадокс ошибок детекции ИИ и уверенности в себе

Ещё более тревожным результатом исследования стало открытие, связанное с когнитивными искажениями. Люди не только всё хуже различают ИИ-лицы от настоящих, но и те, кто допускает наибольшее количество ошибок при детекции, оказываются при этом наиболее уверены в своей правоте. Иными словами, люди, наименее способные обнаружить искусственное изображение, являются наиболее убеждёнными в своей правоте.

Это явление известно как эффект Даннинга-Крюгера (Dunning-Kruger effect) — когнитивное искажение, при котором люди с низким уровнем компетентности систематически переоценивают собственные способности. Этот психологический феномен был впервые описан социальными психологами Дэвидом Даннингом и Джастином Крюгером в 1999 году и с тех пор подтверждён многочисленными исследованиями в различных областях человеческого поведения.

Чрезмерная уверенность в своих способностях распознать ИИ-контент создаёт серьёзную проблему психологической уязвимости перед AI гиперреализмом. Люди, которые наиболее уязвимы к обману со стороны мошеннических ИИ-профилей (так называемый «AI кэтфишинг»), будут наименее склонны подвергать сомнению собственное убеждение в том, что они общаются с реальным человеком.

Это создаёт замкнутый круг: чем больше человек уверен в своих навыках детекции, тем меньше он склонен проверять информацию, а значит, тем легче ему стать жертвой манипуляций с использованием синтетических изображений.

Образование и просвещение как ключ к решению

Согласно выводам исследования, алгоритмы детекции ИИ или совместная работа человека и искусственного интеллекта будут значительно эффективнее, чем восприятие человеком в одиночку, при точной идентификации ИИ-лиц и настоящих фотографий.

Тем временем одним из наиболее эффективных средств против неправомерного использования синтетических медиа, таких как ИИ-сгенерированные лица, является образование и информирование людей. Необходимо объяснять:

• Реалии и предвзятости, встроенные в технологии генерации изображений.
• Наши ограниченные возможности в различении синтетического контента от реального.
• Существование когнитивных искажений, таких как эффект Даннинга-Крюгера, которые мешают нам объективно оценивать собственные способности.
• Потенциальные риски, связанные с доверием к цифровым изображениям без проверки.

К сожалению, чрезмерная уверенность в себе будет служить препятствием для части людей, делая их менее восприимчивыми к предупреждениям. В эпоху AI гиперреализма здоровая доля смирения и признание собственных ограничений как человека являются не просто полезными, а необходимыми и защищающими качествами.

Что такое эффект Даннинга-Крюгера и почему он опасен в цифровую эпоху

Эффект Даннинга-Крюгера — это одно из наиболее изученных когнитивных искажений в современной психологии. Суть его заключается в том, что люди с ограниченными знаниями и навыками в определённой области часто не обладают метакогнитивными способностями, необходимыми для осознания собственной некомпетентности. Они буквально не способны понять, насколько много они не знают.

В контексте детекции ИИ-контента это означает, что человек, никогда не работавший с технологиями распознавания синтетических изображений и не имеющий специальной подготовки, может быть абсолютно уверен в своей способности отличить фейк от подлинника. Парадоксально, именно такой человек будет наиболее подвержен обману, в то время как специалисты, осознающие сложность задачи, будут действовать осторожнее и точнее.

Этот эффект имеет широкие социальные последствия: от распространения фейковых новостей и поддельных фотографий до манипуляций в социальных сетях с использованием сгенерированных профильных изображений. Понимание эффекта Даннинга-Крюгера — важный шаг к развитию цифровой грамотности и критического мышления в современном мире.

Практические рекомендации: как защитить себя от AI гиперреализма

Учитывая описанные выше риски, важно знать, какие меры могут помочь снизить вероятность обмана с помощью синтетических изображений:

• Развивайте критическое мышление. Не принимайте информацию на веру только потому, что она визуально выглядит убедительно.
• Используйте инструменты детекции. Существуют специализированные алгоритмы и сервисы для проверки подлинности изображений.
• Проверяйте источник. Всегда уточняйте, откуда получено изображение, и ищите дополнительные подтверждения.
• Остерегайтесь слишком идеальных изображений. Как показало исследование, излишняя симметрия и «идеальность» лица могут быть маркером ИИ-контента.
• Общайтесь по нескольким каналам. Если вы общаетесь с человеком в интернете, попробуйте организовать видеозвонок для подтверждения его личности.
• Повышайте свою цифровую грамотность. Следите за новостями в области технологий ИИ и изучайте новые методы выявления фейков.

Перспективы исследований и будущее детекции ИИ

Исследование Elizabeth Miller и коллег (2023) — это лишь один из многих шагов в понимании взаимодействия человека и искусственного интеллекта в сфере визуального восприятия. Будущие исследования должны быть направлены на:

• Устранение расовых и этнических предвзятостей в моделях генерации лиц.
• Разработку более эффективных алгоритмов детекции синтетических изображений.
• Изучение долгосрочных психологических последствий пребывания в мире, где визуальная информация может быть легко подделана.
• Разработку образовательных программ, направленных на повышение устойчивости к AI гиперреализму.
• Исследование правовых и этических аспектов использования синтетических медиа.

«В эпоху AI гиперреализма здоровая доля смирения и признание наших ограничений как людей является одновременно необходимым и защитным» — Marilynn Wei, MD, 2023.

/blockquote>

Технологии искусственного интеллекта продолжают стремительно развиваться, и способность создавать неотличимые от реальности изображения будет только совершенствоваться. Именно поэтому важно не только развивать технологии детекции, но и формировать в обществе критическое мышление, осознанность и готовность признавать границы собственного восприятия. Это не только вопрос психологии, но и вопрос общественной безопасности в цифровую эпоху.

Источник исследования: Elizabeth Miller, et al. 2023. Авторы изучили восприятие людьми сгенерированных ИИ лиц и выявили ряд ключевых факторов, влияющих на точность их детекции, а также когнитивные искажения, снижающие надёжность человеческого суждения.

Короткие версии статей можно найти в телеграм-канале.

Посмотреть канал

Кликните еще раз для перехода