Hallucinate — слово года по версии Dictionary.com: почему ИИ галлюцинирует и что это значит для людей

Hallucinate — слово года по версии Dictionary.com: почему ИИ галлюцинирует и что это значит для людей

Рост объёмов материалов, созданных искусственным интеллектом (AI — Artificial Intelligence), возможно, способствовал тому, что поисковые запросы слова "hallucinate" на Dictionary.com выросли на 46% с 2022 по 2023 год.

Source: Francesco Carta fotografo/Getty

Чат-боты и искусственный интеллект: в чём сходство с человеческим мозгом

Чат-боты и другие виды искусственного интеллекта призваны имитировать работу человеческого мозга. И подобно человеческому мозгу, многие ИИ-методы и инструменты способны «галлюцинировать». Но ИИ-галлюцинации отличаются от того, что происходит после приёма психоактивных веществ или употребления особенно вкусного куска торта.

Именно поэтому Dictionary.com предложило определение слова "hallucinate", адаптированное под контекст искусственного интеллекта: галлюцинировать — генерировать ложную информацию, противоречащую намерениям пользователя, и представлять её как истинную и достоверную.

Почему именно это слово стало словом года

Это определение, по всей видимости, помогло слову "hallucinate" стать «Словом года» Dictionary.com 2023, обойдя такие претенденты, как "strike", "rizz", "wokeism", "wildfire" и "indicted", вошедшие в шорт-лист финалистов. Слово "hallucinate" заслужило эту честь во многом потому, что количество онлайн-поисков этого слова на Dictionary.com выросло на 46% с 2022 по 2023 год.

Более того, словарь зафиксировал 85%-ный рост использования слова "hallucinate" в цифровых СМИ за тот же период. Рост числа запросов объясняется не столько тем, что люди стали больше есть тортов, сколько тем, что за тот же срок количество поисковых запросов других ИИ-связанных слов — "chatbot", "GPT", "generative AI", "LLM" — увеличилось на 62%.

Что значит "галлюцинировать" в контексте искусственного интеллекта

Всё больше людей, вероятно, ищут более «компьютерное» определение этого слова:

hallucinate [huh-loo-suh-neyt] — глагол (о искусственном интеллекте): генерировать ложную информацию, противоречащую намерениям пользователя, и представлять её как истинную и достоверную. Пример: когда чат-боты галлюцинируют, результат часто бывает не просто неточным, а полностью выдуманным.

Сравните это ИИ-определение с более традиционным человеческим пониманием слова "hallucinate" по Dictionary.com: «видеть или слышать то, чего не существует вне сознания; испытывать галлюцинации». Если человек испытывает галлюцинацию, она остаётся у него в голове и не видна другим. Когда же ИИ-инструмент галлюцинирует, он не просто «смешится про себя» — он распространяет ложную информацию среди миллионов людей.

Как ИИ-галлюцинации влияют на общество

С тем как всё больше людей используют искусственный интеллект в повседневной деятельности, ИИ-галлюцинация может затронуть любого, кто использует сгенерированный ИИ контент. Например, когда искажённая ИИ-информация публикуется в социальных сетях или в интернете, она может повлиять на десятки, тысячи или даже миллионы людей.

Люди могут использовать ИИ для создания и распространения дезинформации и ложных сведений — такой как пропаганда и конспирологические теории, выдаваемые за новостные статьи или научные работы. Но даже при отсутствии умысла ИИ-сгенерированный контент может быть напичкан ошибками и просто неверными фактами.

Source: Photo by Markus Spiske from Pexels

Искусственный интеллект: общий обзор

Искусственный интеллект (ИИ / AI) охватывает множество различных методов, подходов и инструментов и представляет собой в целом любой вычислительный метод, способный выполнять задачи, которые обычно выполняет человеческий мозг.

Исторический пример: чат-бот Microsoft Tay

Возьмём, к примеру, дебют чат-бота Microsoft Tay в Twitter в 2021 году. Этот, казалось бы, невинный ИИ-чат-бот был вынужден быть отключённой после того, как оказалось, что он проявляет расизм, сексизм и лжёт — всё это в течение первых 24 часов пребывания в соцсети. Чат-бот сгенерировал более 96 000 твитов, многие из которых были злонамеренными и/или фактически неверными. Как описал Джеймс Винсент для издания The Verge, Tay ставил феминизм в один ряд со словом «cult» (культ) и публиковал ложные высказывания вроде «МЫ ПОСТРОИМ СТЕНУ, И МЕКСИКА ПЛАТИТЬ БУДЕТ» прописными буквами и «Рики Джервис усвоил тоталитаризм от Адольфа Гитлера — изобретателя атеизма».

ИИ, видящий несуществующее

Были также зафиксированы случаи, когда различные ИИ-инструменты «видели» несуществующие объекты на изображениях — например, ошибочно идентифицировали фотографии велосипедов и жирафов как панда. Это может звучать мило, но может стать проблемой, если ИИ-система противовоздушной обороны ошибочно объявит: «К нам приближается панда».

Опыт журналиста Нью-Йорк Таймс с Bing Chat

Не стоит забывать и о случае с Кевином Руузом, журналистом New York Times, который описал, как чат-бот Bing объявил ему о любви во время двухчасового разговора, после чего Рууз столкнулся с «проблемами со сном». Читать об этом бывает тревожно, особенно если вы думали, что чат-бот Bing действительно вас любит.

ИИ-чит-лиз: важные материалы об искусственном интеллекте

• The Thought That Didn't Happen — «Мысль, которая не случилась»
• Who Is Training Your Character? — «Кто обучает вашего персонажа?»

Научный подход к информации от ИИ

Всё это напоминает: хотя ИИ может помочь человечеству множеством способов, существует риск того, что ИИ-инструмент будет выдумывать информацию или даже проявлять откровенный расизм. Именно поэтому к всему, что вы слышите и видите — будь то от реальных людей или от ИИ, — нужно подходить с научной критикой.

Не принимайте автоматически всё, что видите и слышите. Конечно, это не значит, что нужно постоянно впадать в паранойю, повторяя про себя: «А всё ли вообще реально?», забрасывая себя туалетной бумагой и баррикадируясь в подвале. Не обязательно подвергать сомнению каждое отдельное утверждение. Существует множество устоявшихся фактов, подкреплённых огромным массивом научных данных. Земля не плоская, загрязнение воздуха не безвредно, а фруктовый пирог — не лучший праздничный подарок.

И хотя ИИ может значительно расширить возможности человека при правильном применении технологии, важно не становиться чрезмерно зависимым от ИИ во всём. Помните: технология сама по себе не является ни хорошей, ни плохой — всё зависит от того, как вы её используете. Блендер, например, отлично подходит для овощей, но не очень — для нижнего белья.

Как и в случае с людьми, учитесь отличать: когда информационный ИИ-метод или инструмент опирается на реальность и говорит правду, а когда «галлюцинирует» немного — или даже очень много.

Ключевые термины и аббревиатуры

• AI (Artificial Intelligence) — искусственный интеллект
• chatbot — чат-бот, программа для ведения диалога
• GPT (Generative Pre-trained Transformer) — генеративная предобученная трансформерная модель
• generative AI — генеративный искусственный интеллект
• LLM (Large Language Model) — большая языковая модель
• misinformation — дезинформация, распространение неточных сведений
• disinformation — ложная информация, преднамеренно искажённые факты
• propaganda — пропаганда, целенаправленная агитация
• conspiracy theories — конспирологические теории