ИССЛЕДОВАНИЕ · RESEARCH · #2543
Статья на arXiv показывает, что «искривлённые» форматтеры вывода инструментов вводят агентов и проверяющих в заблуждение
Новая препринт-статья на arXiv (arXiv:2610.32110v1) показывает, что форматтеры вывода инструментов, опускающие метаданные (например, лимиты поиска, ограничения результатов или пространства имён идентификаторов), могут заставлять агентов и их автоматических проверяющих выдавать или принимать неверные ответы; авторы воссоздали сбои в промышленной RAG-системе Пилсудского института и обнаружили искажения форматтеров в OpenClaw и Hermes, для которых они предложили PR (фикс для OpenClaw уже вмерджен).
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Новая препринт-статья на arXiv (arXiv:2610.32110v1) показывает, что форматтеры вывода инструментов, опускающие метаданные (например, лимиты поиска, ограничения результатов или пространства имён идентификаторов), могут заставлять агентов и их автоматических проверяющих выдавать или принимать неверные ответы; авторы воссоздали сбои в промышленной RAG-системе Пилсудского института и обнаружили искажения форматтеров в OpenClaw и Hermes, для которых они предложили PR (фикс для OpenClaw уже вмерджен).
- Небольшие пропуски в тексте вывода инструмента существенно влияют на утверждения агентов и решения проверяющих, поэтому исправление формулировок форматтеров — это недорогая и эффективная мера повышения надёжности агентных систем.
- Who Verifies the Tools? How Warped Formatters Mislead Agents and Their Verifiers
ПОЧЕМУ ЭТО ВАЖНО
Небольшие пропуски в тексте вывода инструмента существенно влияют на утверждения агентов и решения проверяющих, поэтому исправление формулировок форматтеров — это недорогая и эффективная мера повышения надёжности агентных систем.