ИССЛЕДОВАНИЕ · RESEARCH · #2564
Self-Direction: агенты превращают ошибки в постоянные низкоранговые адаптеры
Авторы предлагают Self-Direction — метод, при котором агент анализирует неудачные траектории, извлекает уроки и сразу дистиллирует их в лёгкие низкоранговые адаптеры (~0.02% параметров базовой модели) при сохранении зафиксированных базовых весов; адаптеры сохраняются в библиотеке и перенаправляются на похожие задачи. Эксперименты с открытыми моделями семейства Qwen на GAIA, Claw-Eval и Terminal-Bench 2.1 показывают прирост успеха на 8.9–17.0 процентных пункта, снижение повторяющихся ошибок (почти двукратное повышение надёжности исправлений) и переносимость нескольких адаптеров на десятки новых задач.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Авторы предлагают Self-Direction — метод, при котором агент анализирует неудачные траектории, извлекает уроки и сразу дистиллирует их в лёгкие низкоранговые адаптеры (~0.02% параметров базовой модели) при сохранении зафиксированных базовых весов; адаптеры сохраняются в библиотеке и перенаправляются на похожие задачи.
- Эксперименты с открытыми моделями семейства Qwen на GAIA, Claw-Eval и Terminal-Bench 2.1 показывают прирост успеха на 8.9–17.0 процентных пункта, снижение повторяющихся ошибок (почти двукратное повышение надёжности исправлений) и переносимость нескольких адаптеров на десятки новых задач.
- Self-Direction даёт дешёвый и ненарушающий способ превращать ошибки в постоянные и переносимые уроки с помощью крошечных адаптеров, избегая полного дообучения и перезаписи базовых параметров модели.
ПОЧЕМУ ЭТО ВАЖНО
Self-Direction даёт дешёвый и ненарушающий способ превращать ошибки в постоянные и переносимые уроки с помощью крошечных адаптеров, избегая полного дообучения и перезаписи базовых параметров модели.