ИССЛЕДОВАНИЕ · RESEARCH · #3801
Фреймворк Reversibility Classes и реестр для действий инструментов ИИ (arXiv:2611.22075v1)
В статье предложены «Reversibility Classes» — пятиуровневая терминология с контрактом явной фиксации предшествующего состояния — и опубликованы фиксированная реализация и реестр с доказательствами для 536 инструментов на 20 MCP-серверах. Оценки (738 проверок правил и 2 158 зафиксированных запусков) показывают, что реализованный session guard заблокировал все 29 запусков с доказанными атаками, при этом добавив девять точек подтверждения в 1 209 доброкачественных запусков; эксперименты с файлами, Git, SQLite и браузерами показывают, что восстановление зависит от захваченного состояния и маршрута восстановления и выявляют исключение для состояния слияния в Git. Авторы отмечают, что доказательства поддерживают идею явного и проверяемого указания предположений о восстановлении, но не подтверждают точность всего реестра, снижение ущерба в продакшене или общую надежность восстановления.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В статье предложены «Reversibility Classes» — пятиуровневая терминология с контрактом явной фиксации предшествующего состояния — и опубликованы фиксированная реализация и реестр с доказательствами для 536 инструментов на 20 MCP-серверах.
- Оценки (738 проверок правил и 2 158 зафиксированных запусков) показывают, что реализованный session guard заблокировал все 29 запусков с доказанными атаками, при этом добавив девять точек подтверждения в 1 209 доброкачественных запусков; эксперименты с файлами, Git, SQLite и браузерами показывают, что восстановление зависит от захваченного состояния и маршрута восстановления и выявляют исключение для состояния слияния в Git.
- Авторы отмечают, что доказательства поддерживают идею явного и проверяемого указания предположений о восстановлении, но не подтверждают точность всего реестра, снижение ущерба в продакшене или общую надежность восстановления.
ПОЧЕМУ ЭТО ВАЖНО
Предоставляет проверяемую таксономию, реализацию и реестр для оценки обратимости действий агентов ИИ, что важно для безопасности и управления, при этом явно указывает на существующие ограничения.