PORA: распределение вычислительных ресурсов рассуждения на основе парных исходов для агентов LLM
Новая статья на arXiv (arXiv:2610.27119v1) представляет PORA — метод, который обучается выбирать между коротким и длинным рассуждением, выполняя для одного состояния парные прогоны (короткий и длинный) для оценки их итоговой пользы; при инференсе контроллер сопоставляет эту оценку с ценой оставшегося бюджета и выбирает режим без повторных прогонов. PORA показывает заметные улучшения на разных задачах — например, +17.4–32.9 процентных пункта на BFCL memory — и сопоставимую или лучшую точность по сравнению с всегда длинным рассуждением для кода и математики при существенно меньшем числе токенов и запросов модели.