Интересное сегодня
Как виртуальная реальность влияет на восприятие объектов: ро...
Введение Мультисенсорные переживания характеризуют нашу повседневную жизнь, включая сенсомоторные вз...
Влияние эмульгаторов на здоровье кишечных микробов
Если вы хотите изобрести новую пищевую добавку, Управление по санитарному надзору за качеством пищев...
Реконструкция сигналов мозга грызунов во время эвтаназии с и...
Введение Понимание сложных биологических и физических процессов долгое время основывалось на нелиней...
Различия между профессионалами и новичками в теннисе в воспр...
Введение Восприятие движения в глубину является ключевым для успешного выполнения ударов в спорте, г...
Изменения в восприятии изображений лиц у людей с аутизмом
Параидолия и аутизм Параидолия - это феномен восприятия несуществующих лиц в незначительных элемента...
Влияние алкоголя на траты в видеоиграх: лут-боксы и рисковое...
Введение в проблему лут-боксов и азартных механизмов в играх Видеоигры стали популярным времяпрепров...
Введение
В повседневном общении люди часто просят других оценить свою уверенность в точности утверждений. Эти суждения помогают слушателям решить, насколько следует корректировать свои представления с учетом мнения собеседника. Учитывая важность уверенности в поведении и коммуникации, психологи давно изучают, как люди оценивают свою уверенность и насколько эти оценки точны.
Large Language Model (LLM) чат-боты
Исследователи давно интересуются системами, способными понимать и генерировать человеческую речь — это направление называется обработкой естественного языка (NLP). Современные NLP-модели, такие как ChatGPT или Gemini, обучаются на огромных массивах текстовых данных и используют сложные алгоритмы машинного обучения, включая нейронные сети. Их называют Large Language Models (LLM), потому что они содержат миллиарды параметров, позволяющих имитировать человеческую речь.
Как работают LLM?
Генеративные ИИ-чаты предсказывают наиболее вероятный ответ на запрос пользователя, но не обладают сознанием или интроспекцией. Они просто вычисляют статистические закономерности в данных.
Метакогнитивные способности LLM
Метакогниция — это способность оценивать собственные когнитивные процессы. Люди используют три типа сигналов для таких оценок:
- Внутренние сигналы (например, сложность задачи)
- Внешние сигналы (например, контекст выполнения)
- Мнемонические сигналы (например, легкость вспоминания)
LLM могут использовать только внутренние и частично внешние сигналы, так как у них нет субъективного опыта.
Точность уверенности у LLM и людей
Исследования показывают, что LLM, как и люди, склонны к переоценке своей точности. Однако некоторые модели (например, Claude) демонстрируют лучшую калибровку. В отличие от людей, LLM хуже учатся на собственном опыте и не всегда корректируют уверенность после выполнения задачи.
Абсолютная и относительная точность
Абсолютная точность (калибровка) показывает, насколько уверенность совпадает с реальной точностью. Относительная точность (разрешение) отражает способность различать более и менее надежные ответы. В некоторых задачах LLM превосходят людей, в других — уступают.
Выводы
LLM демонстрируют схожую с людьми точность оценки уверенности, но используют иные механизмы. Их суждения зависят от статистических закономерностей, а не интроспекции. Будущие исследования помогут лучше понять, как ИИ формирует уверенность и можно ли ему доверять в критически важных областях.
