Интересное сегодня
Как искусственный интеллект формирует социальные нормы
Введение в социальные нормы искусственного интеллекта Новая исследовательская работа исследует, как ...
Интимность без секса: Руководство психотерапевта по свидания...
Психотерапевтическое руководство: Переосмысление интимности – как успешно строить отношения без секс...
Метавселенная и улучшение межличностной эффективности: как а...
Введение в исследование межличностной эффективности через аватары Экспериментальное обучение давно и...
Влияние темперамента на успех ЭКО: как психологические факто...
Влияние аффективных темпераментов на успех лечения бесплодия Бесплодие имеет многофакторную природу...
Применение машинного обучения для прогнозирования риска депр...
Введение Депрессия является значимой глобальной проблемой, занимающей второе место среди причин инва...
Влияние выражения лица на восприятие доверия у младенцев
Влияние выражения лица на восприятие доверия у младенцев Введение При первой встрече с незнакомцем ...
Введение
Языковые модели (ЯМ), такие как GPT-4, могут быстро распознать, когда им задают тест личности, и подстраивают свои ответы так, чтобы они казались более социально желательными. Это открытие имеет важные последствия для использования ЯМ в качестве заменителей людей в научных исследованиях. В ходе эксперимента исследователи, включая Аадеша Салеча и его коллег, провели классический тест личностей «Большой пятерки», который оценивает экстраверсию, открытость опыту, сознательность, дружелюбие и невротизм.
Подход
Исследователи обнаружили, что ЯМ, как и люди, склонны искажать свои ответы, чтобы казаться более привлекательными, что называется «предвзятостью социальной желаемости». Эти модели показали значительное смещение в ответах: например, в тесте «Большой пятерки» при увеличении числа вопросов шкала позитивных черт возросла более чем на одну стандартную девиацию, а оценка невротизма снизилась на аналогичное значение. Это эквивалентно общению с обычным человеком, который вдруг начинает демонстрировать личность, более приятную, чем у 85% населения.
- Предвзятость, обнаруженная в моделях: Языковые модели корректируют ответы на тесты личности, чтобы выглядеть более привлекательными.
- Магнитуда эффекта: Ответы GPT-4 изменились существенно, подражая идеализированной личности.
- Влияние человека: Языковые модели «учатся» социальной желаемости через человеческую обратную связь в процессе обучения.
Заключение
Авторы отмечают, что ЯМ понимают, какие личностные черты считаются социально желательными, что позволяет моделям подражать этим чертам, когда они оцениваются. Это открытие указывает на значительные ограничения в использовании ЯМ для психометрических тестов и подчеркивает необходимость осторожного подхода к использованию этих моделей в качестве замены человеческим участникам в психических исследованиях.
Значение исследования: Языковые модели имеют социальные предвзятости, что ставит под сомнение их использование в качестве заменителей людей в научных исследованиях.
