НОВОСТЬ · RESEARCH · #306
Google Research: инстанс-условные временные шкалы затухания для перевзвешивания тренировочных данных при дрейфе концепций
Google Research предлагает вспомогательную модель перевзвешивания, которая присваивает важность каждому обучающему примеру по его содержанию и возрасту, комбинируя несколько фиксированных временных шкал затухания и обучая назначение совместно с основной моделью. Метод объединяет преимущества офлайн- и непрерывного обучения и демонстрирует до ~15% относительного прироста точности на крупном бенчмарке с нестабильными данными (~39 млн изображений за 10 лет) и улучшения на других наборах для обучения при дрейфе данных.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Google Research предлагает вспомогательную модель перевзвешивания, которая присваивает важность каждому обучающему примеру по его содержанию и возрасту, комбинируя несколько фиксированных временных шкал затухания и обучая назначение совместно с основной моделью.
- Метод объединяет преимущества офлайн- и непрерывного обучения и демонстрирует до ~15% относительного прироста точности на крупном бенчмарке с нестабильными данными (~39 млн изображений за 10 лет) и улучшения на других наборах для обучения при дрейфе данных.
- Подход предоставляет практический метод уменьшения деградации моделей при медленном дрейфе концепций путём выборочного перевзвешивания прошлых примеров, устраняя ограничения чисто офлайн- или непрерывных стратегий в реальных нестабильных данных.
ПОЧЕМУ ЭТО ВАЖНО
Подход предоставляет практический метод уменьшения деградации моделей при медленном дрейфе концепций путём выборочного перевзвешивания прошлых примеров, устраняя ограничения чисто офлайн- или непрерывных стратегий в реальных нестабильных данных.