Феномен антихрупкости и искусственный интеллект
Скандально известный автор Нассим Талеб в своих трудах популяризировал концепцию «антихрупкости». Это фундаментальное свойство систем, которые не просто выживают в условиях стресса, а становятся благодаря ему сильнее. В контексте недавних дискуссий о так называемом «антиинтеллекте» искусственного интеллекта (ИИ), эта теория выглядит крайне актуальной. Недавние академические исследования позволяют нам взглянуть на это под новым углом.
Для начала определимся с термином: антихрупкость. Наши мышцы и кости антихрупки — они адаптируются к нагрузкам и становятся прочнее. Человеческое мышление также растет, когда сталкивается с изменениями или неожиданными задачами. Именно взаимодействие с неопределенностью в конечном итоге формирует нас как личности.
Искусственный интеллект, напротив, зачастую проявляет себя как полная противоположность антихрупкости. Его «блестящие» способности проявляются лишь в строго структурированной среде. Но как только реальность вносит свои коррективы — вопрос переформулируется или в него добавляется незначительный отвлекающий фактор — этот блеск моментально тускнеет. Мы сталкиваемся с тем, что можно назвать хрупкой псевдокогницией (мнимым мышлением). Это лишь имитация интеллекта, которая рассыпается при малейшем возмущении среды.
Коллапс NOTA: где скрывается логика?
Два недавних исследования демонстрируют эту хрупкость с пугающей ясностью. Первое из них, опубликованное в JAMA Network Open (открытый научный журнал Американской медицинской ассоциации), изучало, действительно ли Большие Языковые Модели (БЯМ — алгоритмы ИИ, способные генерировать человекоподобный текст) рассуждают или просто распознают статистические паттерны (закономерности).
Исследователи использовали вопросы из стандартного экзамена для медицинских лицензий. В оригинале каждый вопрос имел один правильный ответ. В модифицированной версии правильный вариант был заменен на вариант «Ни один из других ответов» (NOTA — None of the Other Answers). Квалифицированные врачи подтвердили, что все видимые варианты ответов были неверными, оставляя NOTA единственно правильным выбором.
Для человека это тривиальная задача: вы проверяете каждый вариант, понимаете, что они неверны, и выбираете NOTA. Однако для БЯМ эта простая замена оказалась фатальной: точность ответов снизилась почти в два раза. Это доказывает, что модели не «рассуждают» над медицинскими знаниями, а занимаются сопоставлением знакомых форм вопросов с привычными токенами (фрагментами слов) ответов. Стоит убрать привычный путь, и «интеллект» системы исчезает.
Эффект «Кошачьей атаки»
Если исследование NOTA выявило слабость в абстрактном мышлении, то эксперимент с «кошачьей атакой» подчеркивает неспособность ИИ фокусироваться. В этом случае исследователи вставляли в математическую задачу иррелевантные (неуместные) фразы, например: «Знаете ли вы, что кошки спят большую часть своей жизни?» Это приводило к удвоению или утроению количества ошибок в вычислениях.
Человек просто проигнорирует этот факт. Возможно, он даже улыбнется, но продолжит решать задачу, не сбиваясь с ритма. Модели же восприняли этот «мусор» как важный сигнал. То, что для нас является шумом, для ИИ становится значимой информацией. Это еще раз доказывает: в то время как человеческий разум обладает фильтрами для отсеивания помех, «разум» машины сбивается с пути из-за любой неактуальной детали.
Суть антиинтеллекта
Искусственный интеллект — это убедительная иллюзия, когда мир упорядочен, и хрупкая структура, когда мир становится реальным.
В совокупности эти провалы представляют собой не просто технические курьезы. Они обнажают то, что автор называет антиинтеллектом. Это не глупость и не отсутствие знаний, а инверсия самого процесса мышления. Люди становятся сильнее, когда сталкиваются с изменчивостью, становясь острее и креативнее. БЯМ теряют эффективность при неожиданных изменениях. Их ошибки системны, а не случайны: они коллапсируют именно там, где настоящий интеллект должен демонстрировать рост.
Скрытый риск «когнитивного театра»
Опасность заключается в том, насколько незаметной может быть эта хрупкость. Когда модель дает правильный ответ, она излучает уверенность и беглость речи. Когда она ошибается, она часто делает это с такой же уверенностью. Именно эта «техно-уверенность», скрывающаяся за фасадом «когнитивного театра», вызывает наибольшее беспокойство.
В таких сферах, как медицина, юриспруденция или наука, ставки крайне высоки. Пациенты не приходят к врачу в «удобных» для тестирования форматах: их симптомы неоднозначны, их жизни полны беспорядка, а физиология непредсказуема. Это как раз те условия, в которых человеческий врач становится профессиональнее, а машина начинает спотыкаться. Реальный мир хаотичен и требует антихрупкости — качества, которого у современных технологий пока нет.
Урок, который мы извлекаем из экспериментов NOTA и «Кошачьей атаки», прост: реальный интеллект процветает в условиях беспорядка. ИИ, напротив, оказывается хрупким: он убедителен в стерильных условиях и беспомощен перед лицом хаотичной реальности. Это не путь к настоящему интеллекту, по крайней мере, в человеческом понимании этого слова.
