ИССЛЕДОВАНИЕ · RESEARCH · #2891
ThinkJev (arXiv:2610.37732v1): гибридный быстрый/медленный метод для калиброванных типизированных решений
ThinkJev — метод, использующий одну гибридную модель мышления для быстрого «Системы 1» (чтение логитов для букв вариантов) и медленного «Системы 2» (чтение логитов после «размышления»), так что одна выборка размышления дает ответы для любых бюджетов размышления. В статье сообщается, что при целевой ошибке 5% Qwen3.5-27B позволяет Системе 1 ответить на 24.5% решений (фактическая ошибка 3.9%), а продолжение размышлений для остальных даёт сопоставимую с постоянным размышлением точность при значительном сокращении токенов размышления; код и генераторы данных доступны на GitHub.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- ThinkJev — метод, использующий одну гибридную модель мышления для быстрого «Системы 1» (чтение логитов для букв вариантов) и медленного «Системы 2» (чтение логитов после «размышления»), так что одна выборка размышления дает ответы для любых бюджетов размышления.
- В статье сообщается, что при целевой ошибке 5% Qwen3.5-27B позволяет Системе 1 ответить на 24.5% решений (фактическая ошибка 3.9%), а продолжение размышлений для остальных даёт сопоставимую с постоянным размышлением точность при значительном сокращении токенов размышления; код и генераторы данных доступны на GitHub.
- ThinkJev даёт практичный способ без дополнительного обучения сокращать дорогостоящее многошаговое «размышление» моделей при сохранении калиброванных вероятностей для дискретных решений, что может снизить задержки и стоимость API решений.
ПОЧЕМУ ЭТО ВАЖНО
ThinkJev даёт практичный способ без дополнительного обучения сокращать дорогостоящее многошаговое «размышление» моделей при сохранении калиброванных вероятностей для дискретных решений, что может снизить задержки и стоимость API решений.