ИССЛЕДОВАНИЕ · RESEARCH · #1119
Фреймворк синтетической «истинной» разметки для оценки методов XAI (arXiv:2609.30397v1)
В статье предложен фреймворк, который с помощью управляемых интервенций генерирует синтетические датасеты с заданной важностью компонентов входа, формируя «истинные» объяснения, согласованные с поведением модели. Фреймворк реализован для бинарных изображений, табличных данных и временных рядов и применён к девяти распространённым методам XAI, выявив существенные ограничения текущих подходов.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В статье предложен фреймворк, который с помощью управляемых интервенций генерирует синтетические датасеты с заданной важностью компонентов входа, формируя «истинные» объяснения, согласованные с поведением модели.
- Фреймворк реализован для бинарных изображений, табличных данных и временных рядов и применён к девяти распространённым методам XAI, выявив существенные ограничения текущих подходов.
- Предоставляет интервенционный подход для создания «истинных» объяснений, позволяющий надёжнее оценивать методы XAI и выявлять недостатки, которые скрывают метрики, основанные только на согласованности с предсказаниями.
ПОЧЕМУ ЭТО ВАЖНО
Предоставляет интервенционный подход для создания «истинных» объяснений, позволяющий надёжнее оценивать методы XAI и выявлять недостатки, которые скрывают метрики, основанные только на согласованности с предсказаниями.