LLM не всегда бэгианны — статья измеряет отклонения от байесовских обновлений
Статья рассматривает LLM как правила обработки информации и вводит метрику «information processing gap» для количественной оценки отклонений от байесовских обновлений при обновлении вероятностных убеждений LLM под влиянием новых данных. Авторы проводят обширные эксперименты, изучающие внутренние (не)последовательности в поведении LLM при обновлении убеждений, что важно для таких ответственных областей, как медицина, наука и право.