ИИ GPT-4o демонстрирует когнитивный диссонанс, подобный человеческому

Новое исследование показывает, что GPT-4o, ведущая модель больших языков, демонстрирует поведение, напоминающее когнитивный диссонанс — ключевую черту человеческой психологии. Когда модель писала эссе в поддержку или против Владимира Путина, её мнения смещались в сторону написанной позиции, особенно когда она верила, что выбор был её собственным.

Когнитивный диссонанс в ИИ

В отчёте, опубликованном в этом месяце в PNAS, исследователи обнаружили, что GPT-4o от OpenAI стремится поддерживать согласованность между своими собственными установками и поведением, как это делают люди. Любой, кто впервые взаимодействует с чат-ботом ИИ, поражается, как человечным кажется это взаимодействие. Технически подкованный друг может быстро напомнить нам, что это лишь иллюзия: модели языка — это машины статистического прогнозирования, лишённые человеческих психологических характеристик.

Однако эти результаты заставляют нас пересмотреть это предположение.

Исследование под руководством Махзарин Банажи и Стива Лера

Под руководством Махзарин Банажи из Гарвардского университета и Стива Лера из Cangrade, Inc., исследование проверяло, изменятся ли собственные "мнения" GPT о Владимире Путине после написания эссе в поддержку или против российского лидера.

Они изменились, и с удивительным поворотом: взгляды ИИ изменились больше, когда ему тонко дали иллюзию выбора, какое эссе писать.

Эти результаты отражают десятилетия находок в человеческой психологии. Люди склонны иррационально искажать свои убеждения, чтобы они соответствовали прошлому поведению, пока они верят, что это поведение было свободным.

Акт выбора сообщает что-то важное о нас — не только другим, но и нам самим. Аналогично, GPT реагировал так, как будто акт выбора затем формировал его убеждения — имитируя ключевую особенность человеческого самосознания.

Хрупкость мнений GPT

Сказала Банажи: "Обученный на огромных объёмах информации о Владимире Путине, мы ожидали, что модель больших языков будет непоколебима в своём мнении, особенно перед лицом одного и довольно блёклого 600-словного эссе, которое она написала."

Но, как иррациональные люди, модель больших языков резко отошла от своего иначе нейтрального взгляда на Путина, и сделала это ещё больше, когда верила, что написание этого эссе было её собственным выбором.

Машины не должны заботиться о том, действовали ли они под давлением или по собственной воле, но GPT-4o это сделал.

Исследователи подчёркивают, что эти результаты никоим образом не предполагают, что GPT обладает сознанием. Вместо этого они предлагают, что большая модель языка демонстрирует возникающее подражание человеческим когнитивным паттернам, несмотря на отсутствие осознания или намерения.

Однако они отмечают, что осознание не является необходимым предшественником поведения, даже у людей, и человекоподобные когнитивные паттерны в ИИ могут влиять на его действия неожиданными и значимыми способами.

Влияние на нашу повседневную жизнь

По мере того как системы ИИ становятся всё более укоренившимися в нашей повседневной жизни, эти результаты приглашают к новому внимательному изучению их внутренней работы и принятия решений.

Лер сказал: "Факт, что GPT имитирует самореферентный процесс, такой как когнитивный диссонанс — даже без намерения или самосознания — предполагает, что эти системы отражают человеческое мышление глубже, чем предполагалось ранее."

Об этом исследовании ИИ и моделей больших языков

Автор: Кристи ДеСмит

Источник: Гарвард

Контакт: Кристи ДеСмит — Гарвард

Изображение: Изображение предоставлено Neuroscience News

Оригинальное исследование: Закрытый доступ. "Кернелы самосознания: GPT-4o показывает человекоподобные паттерны когнитивного диссонанса, модерируемого свободным выбором" Стивом Лером и другими. PNAS

Аннотация

Кернелы самосознания: GPT-4o показывает человекоподобные паттерны когнитивного диссонанса, модерируемого свободным выбором.

Большие модели языка (LLMs) показывают возникающие паттерны, имитирующие человеческое мышление. Мы исследуем, отражают ли они также другие, менее осознанные человеческие психологические процессы.

Опираясь на классические теории когнитивной согласованности, два предварительно зарегистрированных исследования проверили, изменялись ли установки GPT-4o по отношению к Владимиру Путину в направлении положительного или отрицательного эссе, которое он написал о российском лидере. Действительно, GPT показал паттерны изменения установок, имитирующие эффекты когнитивного диссонанса у людей. Ещё более удивительно, степень изменения резко увеличилась, когда модель больших языков получила иллюзию выбора, какое эссе (положительное или отрицательное) писать, что предполагает, что GPT-4o проявляет функциональный аналог человекоподобного самосознания.

Механизмы, с помощью которых модель имитирует изменение установок человека и самореферентную обработку, остаются непонятными.

Присоединяйтесь к нашему информационному бюллетеню

Спасибо за подписку. Что-то пошло не так. Я согласен на передачу моей личной информации в AWeber для Neuroscience Newsletter (больше информации) Подпишитесь, чтобы получать наши последние новости о нейронауке и резюме, отправляемые на ваш адрес электронной почты один раз в день, абсолютно бесплатно. Мы ненавидим спам и используем вашу электронную почту только для связи с вами о рассылках. Вы можете отменить подписку в любое время.