ИССЛЕДОВАНИЕ · RESEARCH · #2105
Counterfactual Neighborhood Risk Fields (CNRF) для избирательной безопасности визуально-языковых моделей
В работе предложены Counterfactual Neighborhood Risk Fields (CNRF) — подход, который формирует контекстно сопоставимые контрфактические пары «безвредный–вредный», использует их различия в представлениях для определения направлений риска и отдельно оценивает поддержку соседства. CNRF позволяет избирательно вмешиваться (перенаправлять запросы для проверки по тому же «victim» или выдавать ограниченные альтернативы) и показывает 86,06–89,30% макро-успеха защиты на трёх VLM и пяти семьях мультимодальных jailbreak-атак при сохранении полезности для безвредных задач.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В работе предложены Counterfactual Neighborhood Risk Fields (CNRF) — подход, который формирует контекстно сопоставимые контрфактические пары «безвредный–вредный», использует их различия в представлениях для определения направлений риска и отдельно оценивает поддержку соседства.
- CNRF позволяет избирательно вмешиваться (перенаправлять запросы для проверки по тому же «victim» или выдавать ограниченные альтернативы) и показывает 86,06–89,30% макро-успеха защиты на трёх VLM и пяти семьях мультимодальных jailbreak-атак при сохранении полезности для безвредных задач.
- Это меняет подход к безопасности VLM: вместо простого обучения границ вредности метод конструирует доказательно обоснованные риск‑оценки, снижая ложные срабатывания и позволяя целевые меры, при этом демонстрируя высокие эмпирические показатели.
ПОЧЕМУ ЭТО ВАЖНО
Это меняет подход к безопасности VLM: вместо простого обучения границ вредности метод конструирует доказательно обоснованные риск‑оценки, снижая ложные срабатывания и позволяя целевые меры, при этом демонстрируя высокие эмпирические показатели.