ИССЛЕДОВАНИЕ · RESEARCH · #2317
PORA: распределение вычислительных ресурсов рассуждения на основе парных исходов для агентов LLM
Новая статья на arXiv (arXiv:2610.27119v1) представляет PORA — метод, который обучается выбирать между коротким и длинным рассуждением, выполняя для одного состояния парные прогоны (короткий и длинный) для оценки их итоговой пользы; при инференсе контроллер сопоставляет эту оценку с ценой оставшегося бюджета и выбирает режим без повторных прогонов. PORA показывает заметные улучшения на разных задачах — например, +17.4–32.9 процентных пункта на BFCL memory — и сопоставимую или лучшую точность по сравнению с всегда длинным рассуждением для кода и математики при существенно меньшем числе токенов и запросов модели.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Новая статья на arXiv (arXiv:2610.27119v1) представляет PORA — метод, который обучается выбирать между коротким и длинным рассуждением, выполняя для одного состояния парные прогоны (короткий и длинный) для оценки их итоговой пользы; при инференсе контроллер сопоставляет эту оценку с ценой оставшегося бюджета и выбирает режим без повторных прогонов.
- PORA показывает заметные улучшения на разных задачах — например, +17.4–32.9 процентных пункта на BFCL memory — и сопоставимую или лучшую точность по сравнению с всегда длинным рассуждением для кода и математики при существенно меньшем числе токенов и запросов модели.
- Это важно, потому что PORA позволяет агентам LLM адаптивно распределять ограниченный бюджет рассуждений, повышая качество итоговых решений и уменьшая вычислительные расходы и число обращений к модели.
ПОЧЕМУ ЭТО ВАЖНО
Это важно, потому что PORA позволяет агентам LLM адаптивно распределять ограниченный бюджет рассуждений, повышая качество итоговых решений и уменьшая вычислительные расходы и число обращений к модели.