IE-Prop: оценка риска на основе взаимодействий в многoагентных системах на LLM
Новый препринт на arXiv (arXiv:2610.33282v1) предлагает Interaction-Effect Propagation (IE-Prop) — модель для оценки риска ошибок на downstream-агентах в многoагентных системах на базе LLM, которая учит условные эффекты взаимодействий для корректных и некорректных отправителей, комбинирует их с оценкой ошибки отправителя и рекурсивно распространяет риск по графу исполнения. На трёх архитектурах и трёх бенчмарках IE-Prop повышает AUROC на конечных узлах примерно на 0.05 в среднем, причём отслеживание риска по нескольким шагам даёт дополнительный ≈0.03 AUROC в последовательных системах.