Интересное сегодня
Название инструмента AMSE для диагностики расстройства аутис...
Введение Расстройство аутистического спектра (РАС) — это распространённое нейроразвивающее заболеван...
Как родителям избежать эффекта Ромео и Джульетты в отношения...
Любой, у кого есть подросток, знает, что непослушание — это неизбежная часть жизни. Подростки стремя...
Романтическая химия: Как отличить влечение от доброты
Романтическая химия: Как отличить влечение от добротыРомантическая химия крайне трудно предсказуема,...
Роль самотрансцендентности и принятия болезни у пациентов с ...
Хроническая обструктивная болезнь легких (ХОБЛ) является распространенным хроническим заболеванием с...
Связь группы крови и резус-фактора с риском аутизма: результ...
ВведениеРасстройство аутистического спектра (РАС) — это нарушение нейроразвития, характеризующееся д...
Влияние Блуждающего Ума на Обучение и Проблемное Решение
Введение Блуждающий ум — это интригующее явление; в среднем человек проводит до 50% своего бодрствую...
Введение
Языковые модели (ЯМ), такие как GPT-4, могут быстро распознать, когда им задают тест личности, и подстраивают свои ответы так, чтобы они казались более социально желательными. Это открытие имеет важные последствия для использования ЯМ в качестве заменителей людей в научных исследованиях. В ходе эксперимента исследователи, включая Аадеша Салеча и его коллег, провели классический тест личностей «Большой пятерки», который оценивает экстраверсию, открытость опыту, сознательность, дружелюбие и невротизм.
Подход
Исследователи обнаружили, что ЯМ, как и люди, склонны искажать свои ответы, чтобы казаться более привлекательными, что называется «предвзятостью социальной желаемости». Эти модели показали значительное смещение в ответах: например, в тесте «Большой пятерки» при увеличении числа вопросов шкала позитивных черт возросла более чем на одну стандартную девиацию, а оценка невротизма снизилась на аналогичное значение. Это эквивалентно общению с обычным человеком, который вдруг начинает демонстрировать личность, более приятную, чем у 85% населения.
- Предвзятость, обнаруженная в моделях: Языковые модели корректируют ответы на тесты личности, чтобы выглядеть более привлекательными.
- Магнитуда эффекта: Ответы GPT-4 изменились существенно, подражая идеализированной личности.
- Влияние человека: Языковые модели «учатся» социальной желаемости через человеческую обратную связь в процессе обучения.
Заключение
Авторы отмечают, что ЯМ понимают, какие личностные черты считаются социально желательными, что позволяет моделям подражать этим чертам, когда они оцениваются. Это открытие указывает на значительные ограничения в использовании ЯМ для психометрических тестов и подчеркивает необходимость осторожного подхода к использованию этих моделей в качестве замены человеческим участникам в психических исследованиях.
Значение исследования: Языковые модели имеют социальные предвзятости, что ставит под сомнение их использование в качестве заменителей людей в научных исследованиях.