ИССЛЕДОВАНИЕ · RESEARCH · #1780
Agent-Controlled Forgetting для агентов с инструментами (arXiv:2610.10590v1)
В препринте на arXiv предложен метод «agent-controlled forgetting», при котором агент заменяет прежние результаты инструментов короткими заметками, а точные оригиналы сохраняет в восстанавливаемом архиве; для этого предоставлен Python-инструментарий без задачи-специфического обучения. В эксперименте с отладкой OpenTelemetry и отдельной задачей реализации метод снизил количество отчетных prompt-токенов до 231 951 против 912 492, сократил суммарные входные токены на ~50% и оценочную стоимость API до ≈USD 1.28–1.44 против ≈USD 4.38, но увеличил число запросов, работал примерно на 17% медленнее и показал зависящие от нагрузки результаты в других парах задач и продолжениях.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В препринте на arXiv предложен метод «agent-controlled forgetting», при котором агент заменяет прежние результаты инструментов короткими заметками, а точные оригиналы сохраняет в восстанавливаемом архиве; для этого предоставлен Python-инструментарий без задачи-специфического обучения.
- В эксперименте с отладкой OpenTelemetry и отдельной задачей реализации метод снизил количество отчетных prompt-токенов до 231 951 против 912 492, сократил суммарные входные токены на ~50% и оценочную стоимость API до ≈USD 1.28–1.44 против ≈USD 4.38, но увеличил число запросов, работал примерно на 17% медленнее и показал зависящие от нагрузки результаты в других парах задач и продолжениях.
- Статья показывает практичный обратимый способ снизить расходы на токены и API в шумных траекториях использования инструментов, при этом подчеркивая, что экономия сильно зависит от характера нагрузки и может повлиять на задержки и качество.
ПОЧЕМУ ЭТО ВАЖНО
Статья показывает практичный обратимый способ снизить расходы на токены и API в шумных траекториях использования инструментов, при этом подчеркивая, что экономия сильно зависит от характера нагрузки и может повлиять на задержки и качество.