ИССЛЕДОВАНИЕ · RESEARCH · #2009
Статья AlignPoison: префиксы, согласованные с декодированием, позволяют целевое отравление генеративных рекомендателей
Документ arXiv:2610.14487v1 (AlignPoison) исследует условное целевое отравление авторегрессионных генеративных рекомендательных моделей в реалистичной модели угрозы «чёрного ящика». Авторы показывают, что ввод менее 1% синтетических взаимодействий может заметно повысить продвижение вредоносных целей, выделяют короткие контекстно-согласованные префиксы, усиливающие атаки, и предлагают AlignPoison — метод для их поиска, дающий до +16.3 процентных пунктов к ASR на уни- и мультимодальных бенчмарках.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Документ arXiv:2610.14487v1 (AlignPoison) исследует условное целевое отравление авторегрессионных генеративных рекомендательных моделей в реалистичной модели угрозы «чёрного ящика».
- Авторы показывают, что ввод менее 1% синтетических взаимодействий может заметно повысить продвижение вредоносных целей, выделяют короткие контекстно-согласованные префиксы, усиливающие атаки, и предлагают AlignPoison — метод для их поиска, дающий до +16.3 процентных пунктов к ASR на уни- и мультимодальных бенчмарках.
- Это важно, потому что выявляет практическую уязвимость в генеративных рекомендателях, зависящую от механизма декодирования, которую можно эксплуатировать через небольшие объёмы введённых данных через публичные API.
ПОЧЕМУ ЭТО ВАЖНО
Это важно, потому что выявляет практическую уязвимость в генеративных рекомендателях, зависящую от механизма декодирования, которую можно эксплуатировать через небольшие объёмы введённых данных через публичные API.