Агентный ИИ и внимание: чем искусственный разум отличается от человеческого

Эволюция агентного ИИ

В эпоху стремительного развития технологий искусственный интеллект (ИИ) переходит на новый этап. Одной из ключевых концепций сегодня является «агентный ИИ» (от англ. agentic AI — ИИ, обладающий агентностью, то есть способностью к самостоятельному действию). Это развитие генеративного ИИ, который не просто создает контент, но и самостоятельно принимает решения: какие инструменты использовать, какие шаги предпринять и какие функции вызвать для достижения поставленной цели. Эти способности начинают напоминать агентность, которую мы обычно приписываем живым существам.

Такая «эволюция» означает, что ИИ перестает быть лишь пассивным собеседником и начинает действовать автономно. Он может проверять и исправлять программный код, планировать отпуск или даже предугадывать ваши бытовые потребности, заказывая продукты до того, как вы об этом попросите.

Сходство с человеческим восприятием

Когнитивных ученых особенно интригует легкость, с которой мы наделяем эти системы человеческими качествами. По мере усложнения задач, требующих выбора информации, приоритизации и «суждений», поведение ИИ все больше напоминает человеческое восприятие и когнитивные процессы — от избирательного внимания до сознательного принятия решений.

«Возникает закономерный вопрос: действительно ли эти агенты обладают вниманием? Если да, может ли это привести к появлению искусственного сознания?»

Мы считаем, что эти вопросы критически важны. Анализ того, как «думает» машина, помогает нам лучше понять уникальность человеческого внимания, в частности его сознательной составляющей.

Что такое «внимание» в контексте ИИ?

Термин «внимание» (англ. attention) в мире ИИ был заимствован для описания архитектуры нейронных сетей типа Transformer (Трансформер — архитектура глубокого обучения, представленная в 2017 году в статье Васвани и соавторов). Механизм внимания помогает системе определять, какие части информации контекстуально значимы, что позволяет эффективно отделять полезный сигнал от «шума».

Хотя использование слова «внимание» для описания процессов ИИ кажется удачной метафорой, оно не полностью соответствует человеческому опыту. Человеческое внимание мотивировано интересами, желаниями и эмоциональными потребностями. У агентного ИИ нет собственных интересов.

• Предсказательная оптимизация: ИИ — это инженерная система, оптимизирующая вероятность достижения цели на основе обучающих данных.
• Отсутствие субъективного опыта: ИИ не «размышляет» над информацией, как мы. Он просто выбирает наиболее вероятный путь, не испытывая при этом никаких эмоций или переживаний.

Человеческое внимание сложнее сознания

Когнитивные науки давно установили, что внимание — это не единый процесс, а совокупность параллельных действий. Важно понимать, что существует глубокая диссоциация между процессами внимания и сознательным опытом. Большинство механизмов внимания скрыты от нашего сознания — они жизненно важны для выживания, но не требуют осознания для выполнения задач.

Социальный контекст и эмпатия

Человеческое внимание уникально своей социальной направленностью. Мы чувствительны к социальным сигналам, используем эмпатию и способны координировать действия через совместное внимание (англ. joint attention). ИИ-агенты, напротив, обрабатывают информацию без осознания. Они являются «информаворами» (потребителями информации), но лишены феноменологического опыта и эмоциональной глубины.

Агентность с сознанием и без него

Исследования подтверждают, что процессы внимания можно полностью отделить от сознания. ИИ-агенты остаются исключительно на стороне «внимания» без сознания. Они могут выполнять сложнейшие задачи, но внутри этих систем «никого нет» — нет субъекта, который бы чувствовал процесс выполнения задачи.

«Философский зомби» в цифровом мире

Использование метафоры «философского зомби» здесь крайне уместно: ИИ-агент идеально справляется с обработкой данных, совершает логичные действия, но «внутри свет выключен». И даже если такие агенты начнут создавать социальные группы и имитировать сотрудничество, они будут делать это без эмпатии и истинного понимания перспектив друг друга.

Почему биологические различия имеют значение

В мире, где ИИ начинает замещать наше внимание (принимая решения за нас), возникает серьезная проблема доверия. Человеческое доверие основано на уверенности, что другой человек способен понять нашу перспективу и разделить ответственность. ИИ может моделировать предпочтения, но он не может «заботиться» о результате.

• Делегирование внимания: Мы всё чаще отдаем когнитивные процессы на откуп «невидимым агентам».
• Необходимость управления: ИИ требует системы контроля, выходящей за рамки автоматизированного взаимодействия, основанной на человеческой этике и ответственности.

Будущее: сознательный ИИ?

Несмотря на прогресс, пропасть между разумными машинами и человеком сохранится. Следующим вызовом станет не создание сознательного ИИ, а сохранение нашей бдительности и понимание того, что мы отдаем на откуп машинам. Понимание того, как работает наше собственное внимание — со всеми его скрытыми сложностями и связью с сознанием — является лучшей защитой от потери человечности в мире технологий.