ИССЛЕДОВАНИЕ · RESEARCH · #1399
Когда интерфейсы теряют сигнал: причинная оценка восстановления в агентах на LLM и Causal Intervention Router (CIR)
Статья рассматривает восстановление в агентах на LLM как причинную задачу принятия решений, сравнивая исходы из одного и того же состояния выполнения с вмешательством и без него, чтобы отделить спасение от вреда и отследить изменение ценности восстановления во времени. Авторы предлагают Causal Intervention Router (CIR) — лёгкую политику, решающую, стоит ли вмешиваться на основе информации до восстановления; на задачах ALFWorld с Qwen3-14B CIR повысил успех с 70.33% до 73.33%, не меняя траектории с корректными наблюдениями, а контролы показывают, что эффект не сводится только к новому наблюдению из среды.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Статья рассматривает восстановление в агентах на LLM как причинную задачу принятия решений, сравнивая исходы из одного и того же состояния выполнения с вмешательством и без него, чтобы отделить спасение от вреда и отследить изменение ценности восстановления во времени.
- Авторы предлагают Causal Intervention Router (CIR) — лёгкую политику, решающую, стоит ли вмешиваться на основе информации до восстановления; на задачах ALFWorld с Qwen3-14B CIR повысил успех с 70.33% до 73.33%, не меняя траектории с корректными наблюдениями, а контролы показывают, что эффект не сводится только к новому наблюдению из среды.
- Предоставляет причинную методику оценки и селективную политику вмешательства (CIR), которая измеримо улучшает работу долгосрочных агентов на LLM и снижает риск вредных вмешательств.
ПОЧЕМУ ЭТО ВАЖНО
Предоставляет причинную методику оценки и селективную политику вмешательства (CIR), которая измеримо улучшает работу долгосрочных агентов на LLM и снижает риск вредных вмешательств.