ИССЛЕДОВАНИЕ · RESEARCH · #2086
StepSafe (ASPO): каркас для пошагового своевременного вмешательства в безопасность агентов
Авторы представляют StepSafe (ASPO) — обучающий каркас для пошагового своевременного вмешательства в агентные системы, сочетающий выравнивание по префиксам, адаптивную самодистилляцию обратной связи, расширение данных таксономией нарушений и интервенционными окнами через многоагентный ред-тиминг; на пяти бенчмарках безопасности агентов он показывает лидирующие результаты среди открытых защит (Youden's J 53.0 для 4B-модели против 46.2).
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Авторы представляют StepSafe (ASPO) — обучающий каркас для пошагового своевременного вмешательства в агентные системы, сочетающий выравнивание по префиксам, адаптивную самодистилляцию обратной связи, расширение данных таксономией нарушений и интервенционными окнами через многоагентный ред-тиминг; на пяти бенчмарках безопасности агентов он показывает лидирующие результаты среди открытых защит (Youden's J 53.0 для 4B-модели против 46.2).
- Обеспечивает более ранние и осознанные по этапам вмешательства и улучшение баланса безопасность–полезность в агентных системах, предоставляя практичный пошаговый метод обучения и эмпирические улучшения для разработчиков защит.
- StepSafe: Learning Timely Intervention with Context-Aware Safety Reasoning
ПОЧЕМУ ЭТО ВАЖНО
Обеспечивает более ранние и осознанные по этапам вмешательства и улучшение баланса безопасность–полезность в агентных системах, предоставляя практичный пошаговый метод обучения и эмпирические улучшения для разработчиков защит.