Почему делегирование искусственным агентам лучше, чем прямое принятие решений в условиях коллективного риска

Почему делегирование искусственным агентам лучше, чем прямое принятие решений в условиях коллективного риска

Интересное сегодня

Нейронные сети в психологии: оценка когнитивных процессов и ...

Введение Основная цель исследований в психологии — делать выводы о скрытых когнитивных процессах на ...

Стресс и повторяющееся поведение: связь с аутизмом и шизофре...

Новое исследование раскрывает связь между окислительным стрессом и повторяющимся поведением Новое и...

Проблема западной предвзятости в психологических исследовани...

Введение В первом квартале 2023 года журнал Psychological Science опубликовал 26 оригинальных исслед...

Как рекордная жара влияет на восприятие изменения климата: и...

Введение Хотя климатологи использовали подсчет дней с рекордной жарой для количественной оценки степ...

Как гормоны влияют на СДВГ у женщин: полное руководство

Как гормоны формируют опыт СДВГ у женщин Представьте, что вы провели двадцать с лишним лет, чувству...

Как различия в использовании шкал ответов влияют на кросс-ку...

Введение Исследования в социальных науках часто опираются на самоотчеты с использованием шкал Лайкер...

Рисунок 5
Рисунок 5
Рисунок 1
Рисунок 1
Рисунок 2
Рисунок 2
Рисунок 3
Рисунок 3
Рисунок 4
Рисунок 4
Thumbnail 1
Thumbnail 2
Thumbnail 3
Thumbnail 4
Thumbnail 5
Thumbnail 6
Thumbnail 7
Thumbnail 8
Оригинал исследования на сайте автора

Введение

Современные достижения в области автоматизированного принятия решений и искусственного интеллекта (ИИ) изменили представления о задачах, требующих человеческого интеллекта. Например, языковые модели, способные генерировать код и текст, демонстрируют, что ИИ может автоматизировать даже творческие задачи. Это привело к убеждению, что автономные системы с ИИ могут взять на себя множество функций, включая социальные и моральные решения.

Проблема выравнивания ценностей ИИ

Однако при делегировании задач искусственным агентам могут возникать ошибки. Например, человек может выбрать агента, не соответствующего его целям, из-за непонимания его поведения или сложности настройки параметров. Это приводит к несоответствию между ожиданиями человека и действиями агента — проблеме, известной как выравнивание ценностей ИИ.

Методология

Для изучения этой проблемы использовалась коллективная дилемма риска (КДР) — модель, в которой группа участников должна достичь общего порога взносов в общественное благо за ограниченное число раундов. Если порог не достигнут, существует вероятность потери всех личных ресурсов.

Типы ошибок

  • Ошибки исполнения: возникают, когда человек принимает решения самостоятельно и ошибается в каждом раунде.
  • Ошибки программирования: возникают при настройке агента, которому делегируется задача.
  • Ошибки выбора агента: возникают, когда человек выбирает неподходящего предустановленного агента.

Результаты

Исследование показало, что:

  • Делегирование, несмотря на ошибки, приводит к более высоким показателям успеха, чем прямое принятие решений.
  • При малых вероятностях ошибок (ε ≤ 0.1) делегирование через программируемых агентов дает лучшие результаты.
  • При выборе из предустановленных агентов делегирование остается эффективным даже при более высоких вероятностях ошибок (ε ≤ 0.18).

Эволюционные преимущества делегирования

В долгосрочной перспективе стратегии делегирования становятся доминирующими в популяции, особенно в условиях высокого риска. Это связано с тем, что агенты стабильно исполняют заложенные стратегии, даже если они не идеальны.

Заключение

Делегирование искусственным агентам, несмотря на возможные ошибки, оказывается более эффективным, чем прямое принятие решений в условиях коллективного риска. Это открытие важно для разработки автономных систем, участвующих в социальных дилеммах.

Короткие версии статей можно найти в телеграм-канале.

Посмотреть канал
Кликните еще раз для перехода

Альфа-липоевая кислота Солгар 60 мг — антиоксидант, регулято...

Альфа-липоевая кислота Солгар 60 мг — мощный антиоксидант для защиты от старения, регуляции сахара в...

Сперотон Саше №30 для мужского здоровья и фертильности

Сперотон саше №30 — комплекс для мужского здоровья, содержащий L-карнитин, витамин E, фолиевую кисло...

Синафлан-Акрихин мазь 0,025% 10г – при воспалении кожи

Синафлан-Акрихин 0,025% мазь для наружного применения эффективно устраняет воспаление, зуд и аллерги...

Ван Тач Верио тест-полоски №100 для глюкометра купить

Тест-полоски Ван Тач Верио №100 предназначены для надежного контроля уровня глюкозы в крови с помощь...

Пробиотик Солгар Ацидофилус Плюс - для кишечника

Капсулы Солгар Ацидофилус Плюс - эффективный пробиотик для восстановления микрофлоры кишечника. Соде...

Солгар Мульти I купить — витамины для энергии и иммунитета

Солгар Мульти I — комплекс натуральных витаминов и минералов для поддержки энергии, иммунитета и нер...