Статья AlignPoison: префиксы, согласованные с декодированием, позволяют целевое отравление генеративных рекомендателей
Документ arXiv:2610.14487v1 (AlignPoison) исследует условное целевое отравление авторегрессионных генеративных рекомендательных моделей в реалистичной модели угрозы «чёрного ящика». Авторы показывают, что ввод менее 1% синтетических взаимодействий может заметно повысить продвижение вредоносных целей, выделяют короткие контекстно-согласованные префиксы, усиливающие атаки, и предлагают AlignPoison — метод для их поиска, дающий до +16.3 процентных пунктов к ASR на уни- и мультимодальных бенчмарках.