НОВОСТЬ · RESEARCH · #328
Исследование: по мере роста датасетов сгенерированные изображения часто невозможно проследить до конкретных обучающих примеров
Новое исследование представляет метод «хирургического» удаления отдельных примеров обучения из модели и показывает, что по мере увеличения размера датасетов связь между тем, чему модель учится, и тем, что она генерирует, ослабевает — сгенерированные изображения часто нельзя достоверно связать с конкретными обучающими изображениями. Этот результат указывает на ограничения в отслеживании, атрибуции и удалении конкретного контента из крупных генеративных моделей.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Новое исследование представляет метод «хирургического» удаления отдельных примеров обучения из модели и показывает, что по мере увеличения размера датасетов связь между тем, чему модель учится, и тем, что она генерирует, ослабевает — сгенерированные изображения часто нельзя достоверно связать с конкретными обучающими изображениями.
- Этот результат указывает на ограничения в отслеживании, атрибуции и удалении конкретного контента из крупных генеративных моделей.
- Это важно, поскольку ослабление отслеживаемости затрудняет атрибуцию, удаление и привлечение к ответственности за использование защищённого или чувствительного контента в обучении моделей, а также влияет на исследования по происхождению данных и интерпретируемости.
ПОЧЕМУ ЭТО ВАЖНО
Это важно, поскольку ослабление отслеживаемости затрудняет атрибуцию, удаление и привлечение к ответственности за использование защищённого или чувствительного контента в обучении моделей, а также влияет на исследования по происхождению данных и интерпретируемости.