ИССЛЕДОВАНИЕ · RESEARCH · #629
Dynamically Scaled Activation Steering (DSAS) адаптивно регулирует steering в генеративных моделях
DSAS — это независимая от метода платформа, которая разъединяет решение о том, когда выполнять steering, и способ его выполнения, вычисляя контекст-зависимые множители для регулирования силы преобразований активаций по слоям и входам. Авторы сообщают, что DSAS улучшает баланс между снижением токсичности и сохранением полезности, требует минимальных вычислений, повышает интерпретируемость, может оптимизироваться совместно с функциями steering; работа принята на воркшоп UniReps на NeurIPS 2025, а код будет опубликован на GitHub.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- DSAS — это независимая от метода платформа, которая разъединяет решение о том, когда выполнять steering, и способ его выполнения, вычисляя контекст-зависимые множители для регулирования силы преобразований активаций по слоям и входам.
- Авторы сообщают, что DSAS улучшает баланс между снижением токсичности и сохранением полезности, требует минимальных вычислений, повышает интерпретируемость, может оптимизироваться совместно с функциями steering; работа принята на воркшоп UniReps на NeurIPS 2025, а код будет опубликован на GitHub.
- Путём целевого применения steering DSAS может улучшить баланс безопасности и полезности и сделать поведение steering более интерпретируемым в разных моделях.
ПОЧЕМУ ЭТО ВАЖНО
Путём целевого применения steering DSAS может улучшить баланс безопасности и полезности и сделать поведение steering более интерпретируемым в разных моделях.