Tech Meridian ← К ЛЕНТЕ
PROМОЙ MERIDIAN EN

ИССЛЕДОВАНИЕ · RESEARCH · #1895

SELFCOMPACT: адаптивная компакция, инициируемая моделью, для агентных LLM

SELFCOMPACT сочетает инструмент компакции, вызываемый моделью, с лёгкой рубрикой для времени вывода, определяющей, когда выполнять или подавлять суммаризацию накопленных следов агента. На шести наборах данных и семи моделях подход сопоставим или превосходит суммаризацию с фиксированным интервалом, снижая расход токенов на вопрос на 30–70% и повышая точность по математике до 18.1 пункта и по агентному поиску на 5–9 пунктов без дообучения.

КЛЮЧЕВЫЕ ТЕЗИСЫ

  1. SELFCOMPACT сочетает инструмент компакции, вызываемый моделью, с лёгкой рубрикой для времени вывода, определяющей, когда выполнять или подавлять суммаризацию накопленных следов агента.
  2. На шести наборах данных и семи моделях подход сопоставим или превосходит суммаризацию с фиксированным интервалом, снижая расход токенов на вопрос на 30–70% и повышая точность по математике до 18.1 пункта и по агентному поиску на 5–9 пунктов без дообучения.
  3. Адаптивная компакция, управляемая моделью, снижает расход токенов и улучшает работу агентов, устраняя устаревший и чрезмерно длинный контекст без дообучения.

ПОЧЕМУ ЭТО ВАЖНО

Адаптивная компакция, управляемая моделью, снижает расход токенов и улучшает работу агентов, устраняя устаревший и чрезмерно длинный контекст без дообучения.

ИСТОЧНИКИ И ХРОНОЛОГИЯ

1
01
APPLE MACHINE LEARNING RESEARCH ИССЛЕДОВАНИЕ
Self-Compacting Language Model Agents

Authors Tianjian Li†, Jingyu Zhang†, William Jurayj†, Xi Wang†, Chuanyang Jin†, Mehrdad Farajtabar, Eric Nalisnick†, Daniel Khashabi† Long agent traces composed of chains of thought and tool calls accumulate stale content that anchor subsequent generations, and eventually outgrow the context window. Existing scaffolds mitigate it with fixed-interval compaction triggered at a token threshold. Such triggers pay no hee…

↗