Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

ТЕМА · ENTITY #5504

chain-of-thought (CoT)

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

3

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Uncertainty-Guided Progressive Contraction для эффективного дообучения рассуждений (arXiv:2610.12933v1)

В статье предложена система uncertainty-guided progressive contraction, сжимающая надзор за рассуждениями и концентрирующая оптимизацию на наиболее полезных траекториях. Авторы формируют Монте‑Карло деревья рассуждений вокруг промежуточных состояний CoT для оценки неопределённости, сначала сокращают корпус под руководством учителя, а затем выполняют онлайн‑маршрутизацию, адаптированную к студенту в SFT; заявлено до ≈450× меньшей продолжительности обучения (до 0.22% от полного SFT) при сохранении или улучшении качества рассуждений на разных бенчмарках и семейств моделeй.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Интервенции на уровне активаций показывают, что большая часть указанных шагов логики влияет на ответ в Qwen3-4B

В препринте предложен каузальный тест на уровне активаций: авторы патчат residual stream на токенах, где модель формулирует промежуточные шаги, подставляя активации из контрфактического прогона в синтетических заданиях с 2–6 переходами. Для Qwen3-4B 76,9% ± 2,8% указанных шагов оказываются каузально значимыми на наиболее отзывчивом среднем слое (случайный контроль 11,3%; патч факта из подсказки даёт 83%), тогда как стандартный поведенческий тест даёт 88,2% и переоценивает каузальную верность примерно на 11,4 процентных пункта; у Qwen3-1.7B каузальная верность заметно ниже (54,8%) и падает с глубиной рассуждения (68% при 2 переходах до 30% при 6).

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

LogicTrack: аудит рассуждений LLM с помощью формальных логических решателей

LogicTrack — нейро-символическая система, автоматически формализующая каждый шаг Chain-of-Thought и проверяющая его с помощью автоматических теорем-пруверов; вводится механизм оценки Solver-Based Backtracking Reward (SBR) для пошаговой оценки логической корректности и управления поиском с возвратом. Авторы также конструируют данные для контролируемой дообучки из трасс возврата и сообщают об улучшении проверяемости цепочек рассуждений и финальных результатов на 8 бенчмарках и с 7 LLM (arXiv:2609.21492v1).

6.0