ИССЛЕДОВАНИЕ · RESEARCH · #2984
Препринт на arXiv: Психофизика аффекта в больших языковых моделях
В препринте на arXiv исследуется, как большие языковые модели предсказывают ощущения от результатов азартных ставок и торговли акциями и учитывают ли эти предсказания при выборе. При отдельной оценке результатов модели демонстрировали убывающую чувствительность к величине и неожиданное усиление отклика на выигрыши («silicon gain amplification»); при совместном сравнении оценки выпрямлялись, а в задачах выбора асимметрия выигрыш–потеря почти исчезала и самооценки моделей не объясняли выбор лучше, чем денежная полезность.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В препринте на arXiv исследуется, как большие языковые модели предсказывают ощущения от результатов азартных ставок и торговли акциями и учитывают ли эти предсказания при выборе.
- При отдельной оценке результатов модели демонстрировали убывающую чувствительность к величине и неожиданное усиление отклика на выигрыши («silicon gain amplification»); при совместном сравнении оценки выпрямлялись, а в задачах выбора асимметрия выигрыш–потеря почти исчезала и самооценки моделей не объясняли выбор лучше, чем денежная полезность.
- Важно потому, что результаты показывают контекстную изменчивость отображения аффекта в LLM, что может повлиять на то, как агентные системы предсказывают и используют ожидаемые чувства при принятии решений.
ПОЧЕМУ ЭТО ВАЖНО
Важно потому, что результаты показывают контекстную изменчивость отображения аффекта в LLM, что может повлиять на то, как агентные системы предсказывают и используют ожидаемые чувства при принятии решений.