ИССЛЕДОВАНИЕ · RESEARCH · #1425
Мнение: современные LLM не обладают тем типом явного рассуждения, что был у AlphaGo
В статье утверждается, что AlphaGo сочетал интуитивную сеть с явным поиском для рассуждений, тогда как современные большие языковые модели являются итеративными предсказателями токенов и не имеют отдельного, проверяемого механизма рассуждения; приёмы вроде chain-of-thought повышают результативность, но не создают независимого эпистемического состояния и могут быть постфактумными оправданиями. Автор выделяет три основных недостатка — отсутствие постоянных проверяемых убеждений, отсутствие разделения знаний и их обработки, а также ненадёжность цепочек рассуждений — и предупреждает, что это ограничивает доверие в критичных областях, таких как медицина и наука.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В статье утверждается, что AlphaGo сочетал интуитивную сеть с явным поиском для рассуждений, тогда как современные большие языковые модели являются итеративными предсказателями токенов и не имеют отдельного, проверяемого механизма рассуждения; приёмы вроде chain-of-thought повышают результативность, но не создают независимого эпистемического состояния и могут быть постфактумными оправданиями.
- Автор выделяет три основных недостатка — отсутствие постоянных проверяемых убеждений, отсутствие разделения знаний и их обработки, а также ненадёжность цепочек рассуждений — и предупреждает, что это ограничивает доверие в критичных областях, таких как медицина и наука.
- Потому что в критичных областях нужны прозрачные и проверяемые цепочки рассуждений, а отсутствие явного и постоянного эпистемического состояния у LLM подрывает надёжность и подотчётность.
ПОЧЕМУ ЭТО ВАЖНО
Потому что в критичных областях нужны прозрачные и проверяемые цепочки рассуждений, а отсутствие явного и постоянного эпистемического состояния у LLM подрывает надёжность и подотчётность.