ИССЛЕДОВАНИЕ · RESEARCH · #922
StateComp: сжатие истории для долгосрочных агентов на основе состояния (arXiv:2609.27298v1)
StateComp (State Conditioned Compression) — это методика, определяющая, когда предыдущие взаимодействия можно безопасно сжимать с учётом текущего состояния агента. Авторы формируют разметку KEEP и READY в два этапа, обучают нечувствительный к дисбалансу маршрутизатор на скрытых представлениях замороженной языковой модели, используют ограниченное представление состояния и группируют соседние READY-взаимодействия в спаны; на WorkBuddyBench это снизило объём токенов на 52.27% и ускорило извлечение представлений в 12.67 раза при сохранении качества задач.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- StateComp (State Conditioned Compression) — это методика, определяющая, когда предыдущие взаимодействия можно безопасно сжимать с учётом текущего состояния агента.
- Авторы формируют разметку KEEP и READY в два этапа, обучают нечувствительный к дисбалансу маршрутизатор на скрытых представлениях замороженной языковой модели, используют ограниченное представление состояния и группируют соседние READY-взаимодействия в спаны; на WorkBuddyBench это снизило объём токенов на 52.27% и ускорило извлечение представлений в 12.67 раза при сохранении качества задач.
- Уменьшает накладные расходы контекста и вычислений для агентов с длинным горизонтом, повышая масштабируемость и эффективность выполнения.
ПОЧЕМУ ЭТО ВАЖНО
Уменьшает накладные расходы контекста и вычислений для агентов с длинным горизонтом, повышая масштабируемость и эффективность выполнения.