Исследователи Google предлагают «ранние считывания» и «просеиватель признаков» для борьбы со спурриозными признаками и простотной предвзятостью

КЛЮЧЕВЫЕ ТЕЗИСЫ

1. Авторы из Google Research Ришаб Тивари и Прадеп Шеной описывают два вмешательства — прогнозы из ранних промежуточных слоёв («ранние считывания») и принудительное «забывание признаков» с помощью «просеивателя признаков» — чтобы обнаруживать и снижать зависимость от спурриозных признаков и простотную предвзятость в глубоких сетях.
2. Сигнал от ранних считываний используется для перенастройки вклада учителя при дистилляции, а просеиватель признаков заставляет модель искать более информативные признаки; авторы сообщают об улучшении worst‑group accuracy на бенчмарках (Waterbirds, CelebA, CivilComments, MNLI) и лучшей генерализации на невидимые домены по сравнению с предыдущими подходами.
3. Это важно, потому что методы предлагают автоматическую диагностику и практические вмешательства для снижения зависимости от спурриозных признаков и простотной предвзятости, повышая устойчивость худших групп и генерализацию между доменами.