ИССЛЕДОВАНИЕ · RESEARCH · #1240
Статья на arXiv «Memory Is a Derivation» (v1) представляет DerivAudit для аудита памяти агентов на базе LLM
Новый препринт на arXiv «Memory Is a Derivation» (arXiv:2609.36130v1) описывает проблему вывода для долгоживущих агентов на базе LLM: сжатая постоянная память может не следовать из истории взаимодействий; авторы формализуют три требования (объем доказательств, композиционная корректность, надежность принятия) и предлагают фреймворк DerivAudit для проверки, поддерживает ли история, доступная при записи, сохранённую память. Аудит в двух корпусах памяти показывает, что расширение предзаписной истории восстанавливает обоснование почти для 60% кажущихся неподдерживаемыми эпизодов, 17–21% остаются неподдерживаемыми, а более широкий контекст может ухудшать надежность принятия на некоторых бэбонах моделей.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Новый препринт на arXiv «Memory Is a Derivation» (arXiv:2609.36130v1) описывает проблему вывода для долгоживущих агентов на базе LLM: сжатая постоянная память может не следовать из истории взаимодействий; авторы формализуют три требования (объем доказательств, композиционная корректность, надежность принятия) и предлагают фреймворк DerivAudit для проверки, поддерживает ли история, доступная при записи, сохранённую память.
- Аудит в двух корпусах памяти показывает, что расширение предзаписной истории восстанавливает обоснование почти для 60% кажущихся неподдерживаемыми эпизодов, 17–21% остаются неподдерживаемыми, а более широкий контекст может ухудшать надежность принятия на некоторых бэбонах моделей.
- Важно, потому что это выявляет конкретный риск для корректности и проверяемости долгосрочной памяти агентов на базе LLM, влияя на поведение, доверие и верификацию агентов.
ПОЧЕМУ ЭТО ВАЖНО
Важно, потому что это выявляет конкретный риск для корректности и проверяемости долгосрочной памяти агентов на базе LLM, влияя на поведение, доверие и верификацию агентов.