ИССЛЕДОВАНИЕ · RESEARCH · #1759
Статья на arXiv предлагает два дизайна во время вывода (FC, PS) для управления постоянной памятью в LLM-агентах
В работе (arXiv:2610.11188v1) управление постоянной памятью для LLM‑агентов разделяется на два решения — admission (что попадёт в контекст) и presentation (как это будет представлено) — и предложены два подхода для инференса без дообучения: factor-compiled admission (FC) и permission-semantic admission (PS). При оценке на четырёх базовых моделях и внешнем бенчмарке FC и PS снизили суммарные оценки ошибок экспертов на 6,7 и 8,8 процентных пункта и уменьшили кросс-доменные утечки до 29,5 пунктов, при этом увеличились некоторые ошибки персонализации, а различия между вариантами презентации не выдержали поправки на множественные сравнения.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В работе (arXiv:2610.11188v1) управление постоянной памятью для LLM‑агентов разделяется на два решения — admission (что попадёт в контекст) и presentation (как это будет представлено) — и предложены два подхода для инференса без дообучения: factor-compiled admission (FC) и permission-semantic admission (PS).
- При оценке на четырёх базовых моделях и внешнем бенчмарке FC и PS снизили суммарные оценки ошибок экспертов на 6,7 и 8,8 процентных пункта и уменьшили кросс-доменные утечки до 29,5 пунктов, при этом увеличились некоторые ошибки персонализации, а различия между вариантами презентации не выдержали поправки на множественные сравнения.
- Разделение admission и presentation позволяет внедрять управляемые меры на этапе инференса, которые без дообучения снижают определённые риски (в частности кросс-доменные утечки), но проблема сохранения безопасной персонализации остаётся нерешённой.
ПОЧЕМУ ЭТО ВАЖНО
Разделение admission и presentation позволяет внедрять управляемые меры на этапе инференса, которые без дообучения снижают определённые риски (в частности кросс-доменные утечки), но проблема сохранения безопасной персонализации остаётся нерешённой.