ИССЛЕДОВАНИЕ · RESEARCH · #1841
Uncertainty-Guided Progressive Contraction для эффективного дообучения рассуждений (arXiv:2610.12933v1)
В статье предложена система uncertainty-guided progressive contraction, сжимающая надзор за рассуждениями и концентрирующая оптимизацию на наиболее полезных траекториях. Авторы формируют Монте‑Карло деревья рассуждений вокруг промежуточных состояний CoT для оценки неопределённости, сначала сокращают корпус под руководством учителя, а затем выполняют онлайн‑маршрутизацию, адаптированную к студенту в SFT; заявлено до ≈450× меньшей продолжительности обучения (до 0.22% от полного SFT) при сохранении или улучшении качества рассуждений на разных бенчмарках и семейств моделeй.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В статье предложена система uncertainty-guided progressive contraction, сжимающая надзор за рассуждениями и концентрирующая оптимизацию на наиболее полезных траекториях.
- Авторы формируют Монте‑Карло деревья рассуждений вокруг промежуточных состояний CoT для оценки неопределённости, сначала сокращают корпус под руководством учителя, а затем выполняют онлайн‑маршрутизацию, адаптированную к студенту в SFT; заявлено до ≈450× меньшей продолжительности обучения (до 0.22% от полного SFT) при сохранении или улучшении качества рассуждений на разных бенчмарках и семейств моделeй.
- Если подтвердится, метод может существенно сократить вычислительные затраты SFT для задач рассуждений и ускорить либо удешевить внедрение моделей с навыками рассуждений в разных конфигурациях студентов и учителей.
ПОЧЕМУ ЭТО ВАЖНО
Если подтвердится, метод может существенно сократить вычислительные затраты SFT для задач рассуждений и ускорить либо удешевить внедрение моделей с навыками рассуждений в разных конфигурациях студентов и учителей.