ИССЛЕДОВАНИЕ · RESEARCH · #2470
PerMIT: машинно-проверяемые теоремы целостности и архитектура памяти с шлюзом доверия для агентов LLM
PerMIT — архитектура памяти для агентов LLM с жёсткой моделью доверия: доверяются только вводы от пользователя и значения, подтверждённые на шлюзе; внешние данные подаются через конечный интерфейс. Авторы формально доказывают две теоремы целостности (машинно-проверяемые в Lean 4), сообщают об отсутствии успешно зафиксированных атак на Trojan Hippo при самопроверке и лёгких проверяющих и моделируют сообщества (до 90 агентов) на τ^2-bench, показывая масштабируемое коллективное подтверждение памяти и улучшение производительности новых агентов.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- PerMIT — архитектура памяти для агентов LLM с жёсткой моделью доверия: доверяются только вводы от пользователя и значения, подтверждённые на шлюзе; внешние данные подаются через конечный интерфейс.
- Авторы формально доказывают две теоремы целостности (машинно-проверяемые в Lean 4), сообщают об отсутствии успешно зафиксированных атак на Trojan Hippo при самопроверке и лёгких проверяющих и моделируют сообщества (до 90 агентов) на τ^2-bench, показывая масштабируемое коллективное подтверждение памяти и улучшение производительности новых агентов.
- Предоставляет формально доказанный (машинно-проверяемый) подход к защите постоянной памяти агентов LLM и практический путь к масштабируемому коллективному подтверждению памяти, что может снизить риск отравления данных и обеспечить более безопасное совместное или самосовершенствующееся поведение агентов.
ПОЧЕМУ ЭТО ВАЖНО
Предоставляет формально доказанный (машинно-проверяемый) подход к защите постоянной памяти агентов LLM и практический путь к масштабируемому коллективному подтверждению памяти, что может снизить риск отравления данных и обеспечить более безопасное совместное или самосовершенствующееся поведение агентов.