Интересное сегодня
Как дети учатся понимать эмоции: когнитивный сдвиг от 5 до 1...
Почему дети не понимают эмоции взрослых? Новое исследование под руководством Се Ваньцзэ из Пекинског...
Синаптические сигнатуры и уязвимости болезни пирамидных нейр...
ВведениеПирамидные нейроны 5 слоя играют важную роль в процессах обработки информации в мозге. Эти н...
Влияние ареста родителя на семью: опыт родителей и детей
Введение Соединенные Штаты Америки (США) имеют крупнейшую криминальную правовую систему в мире, inca...
Исследование взаимосвязей между обработкой букв, слов и пред...
Исследование взаимосвязей между обработкой букв, слов и предложений при чтении Многочисленные преды...
Как мозг фильтрует звуки: исследование короллярных разрядов
Введение Исследователи проследили, как мозг фильтрует фоновый шум в процессе речи, используя сигналы...
Влияние игровых автоматов Категории D в детстве на взрослое ...
Введение в проблему детского gambling Gambling (азартные игры) в детском возрасте (до 18 лет) являет...
Введение
Современные достижения в области автоматизированного принятия решений и искусственного интеллекта (ИИ) изменили представления о задачах, требующих человеческого интеллекта. Например, языковые модели, способные генерировать код и текст, демонстрируют, что ИИ может автоматизировать даже творческие задачи. Это привело к убеждению, что автономные системы с ИИ могут взять на себя множество функций, включая социальные и моральные решения.
Проблема выравнивания ценностей ИИ
Однако при делегировании задач искусственным агентам могут возникать ошибки. Например, человек может выбрать агента, не соответствующего его целям, из-за непонимания его поведения или сложности настройки параметров. Это приводит к несоответствию между ожиданиями человека и действиями агента — проблеме, известной как выравнивание ценностей ИИ.
Методология
Для изучения этой проблемы использовалась коллективная дилемма риска (КДР) — модель, в которой группа участников должна достичь общего порога взносов в общественное благо за ограниченное число раундов. Если порог не достигнут, существует вероятность потери всех личных ресурсов.
Типы ошибок
- Ошибки исполнения: возникают, когда человек принимает решения самостоятельно и ошибается в каждом раунде.
- Ошибки программирования: возникают при настройке агента, которому делегируется задача.
- Ошибки выбора агента: возникают, когда человек выбирает неподходящего предустановленного агента.
Результаты
Исследование показало, что:
- Делегирование, несмотря на ошибки, приводит к более высоким показателям успеха, чем прямое принятие решений.
- При малых вероятностях ошибок (ε ≤ 0.1) делегирование через программируемых агентов дает лучшие результаты.
- При выборе из предустановленных агентов делегирование остается эффективным даже при более высоких вероятностях ошибок (ε ≤ 0.18).
Эволюционные преимущества делегирования
В долгосрочной перспективе стратегии делегирования становятся доминирующими в популяции, особенно в условиях высокого риска. Это связано с тем, что агенты стабильно исполняют заложенные стратегии, даже если они не идеальны.
Заключение
Делегирование искусственным агентам, несмотря на возможные ошибки, оказывается более эффективным, чем прямое принятие решений в условиях коллективного риска. Это открытие важно для разработки автономных систем, участвующих в социальных дилеммах.