ИССЛЕДОВАНИЕ · RESEARCH · #2626
IE-Prop: оценка риска на основе взаимодействий в многoагентных системах на LLM
Новый препринт на arXiv (arXiv:2610.33282v1) предлагает Interaction-Effect Propagation (IE-Prop) — модель для оценки риска ошибок на downstream-агентах в многoагентных системах на базе LLM, которая учит условные эффекты взаимодействий для корректных и некорректных отправителей, комбинирует их с оценкой ошибки отправителя и рекурсивно распространяет риск по графу исполнения. На трёх архитектурах и трёх бенчмарках IE-Prop повышает AUROC на конечных узлах примерно на 0.05 в среднем, причём отслеживание риска по нескольким шагам даёт дополнительный ≈0.03 AUROC в последовательных системах.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Новый препринт на arXiv (arXiv:2610.33282v1) предлагает Interaction-Effect Propagation (IE-Prop) — модель для оценки риска ошибок на downstream-агентах в многoагентных системах на базе LLM, которая учит условные эффекты взаимодействий для корректных и некорректных отправителей, комбинирует их с оценкой ошибки отправителя и рекурсивно распространяет риск по графу исполнения.
- На трёх архитектурах и трёх бенчмарках IE-Prop повышает AUROC на конечных узлах примерно на 0.05 в среднем, причём отслеживание риска по нескольким шагам даёт дополнительный ≈0.03 AUROC в последовательных системах.
- Модель показывает, что реальные взаимодействия отправитель–получатель дают дополнительную предсказательную информацию о риске ошибок downstream, что важно для надёжности и мониторинга многoагентных LLM-конвейеров.
ПОЧЕМУ ЭТО ВАЖНО
Модель показывает, что реальные взаимодействия отправитель–получатель дают дополнительную предсказательную информацию о риске ошибок downstream, что важно для надёжности и мониторинга многoагентных LLM-конвейеров.