ИССЛЕДОВАНИЕ · RESEARCH · #1853
VEPA: Verified Evolving Formal Policy — адаптивные верифицируемые правила для агентов LLM (arXiv:2610.12813v1)
В статье представлен VEPA — фреймворк, который описывает защитные правила в виде исполняемых символических правил над типизированными событиями агента и в ходе эксплуатации использует LLM для предложений исправлений, детерминированный верификатор и слой, активирующий правила только при достаточных доказательствах. На наборах ASSEBench-Safety, ASSEBench-Security и ATBench VEPA стабильно превосходит базовые методы и устойчив к смешанным потокам, искаженному фидбеку и длительной эксплуатации.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В статье представлен VEPA — фреймворк, который описывает защитные правила в виде исполняемых символических правил над типизированными событиями агента и в ходе эксплуатации использует LLM для предложений исправлений, детерминированный верификатор и слой, активирующий правила только при достаточных доказательствах.
- На наборах ASSEBench-Safety, ASSEBench-Security и ATBench VEPA стабильно превосходит базовые методы и устойчив к смешанным потокам, искаженному фидбеку и длительной эксплуатации.
- VEPA важна тем, что сочетает детерминированное, проверяемое применение политик с контролируемой адаптацией на основе доказательств, снижая непоследовательность LLM-решений при работе агентов с чувствительными изменяемыми ресурсами.
ПОЧЕМУ ЭТО ВАЖНО
VEPA важна тем, что сочетает детерминированное, проверяемое применение политик с контролируемой адаптацией на основе доказательств, снижая непоследовательность LLM-решений при работе агентов с чувствительными изменяемыми ресурсами.