ИССЛЕДОВАНИЕ · RESEARCH · #1508
MEA: агентная система с вознаграждением для правдоподобных объяснений моделей (arXiv:2610.02480v1)
В работе представлен MEA — двухагентная система (Proposer и Actor), которая подбирает и настраивает инструменты объяснения и оптимизируется сквозь цельную функцию верности на основе возмущений, выдавая пояснения на естественном языке для табличных, текстовых и визуальных моделей. По результатам на шести наборах данных MEA превосходит постхок-методы, агентные и закрытые эталонные решения, давая приблизительно +28% (таблично), +21% (текст) и +34% (визуально) к верности по сравнению с не натренированной основой, при этом авторы отмечают систематическую нефидельность объяснений от передовых LLM.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В работе представлен MEA — двухагентная система (Proposer и Actor), которая подбирает и настраивает инструменты объяснения и оптимизируется сквозь цельную функцию верности на основе возмущений, выдавая пояснения на естественном языке для табличных, текстовых и визуальных моделей.
- По результатам на шести наборах данных MEA превосходит постхок-методы, агентные и закрытые эталонные решения, давая приблизительно +28% (таблично), +21% (текст) и +34% (визуально) к верности по сравнению с не натренированной основой, при этом авторы отмечают систематическую нефидельность объяснений от передовых LLM.
- Показывает, что оптимизация агентных объяснителей по метрикам верности на основе возмущений существенно повышает точность объяснений в разных модальностях и выявляет систематическую нефидельность объяснений от передовых LLM.
ПОЧЕМУ ЭТО ВАЖНО
Показывает, что оптимизация агентных объяснителей по метрикам верности на основе возмущений существенно повышает точность объяснений в разных модальностях и выявляет систематическую нефидельность объяснений от передовых LLM.