Tech Meridian ← К ЛЕНТЕ
PROМОЙ MERIDIAN EN

ИССЛЕДОВАНИЕ · RESEARCH · #3630

Исследование (arXiv:2611.17639v1) анализирует, на что ориентируются LLM‑агенты — данные инструментов или слова пользователя

Статья применяет теорию презуппозиций для анализа, когда LLM‑агенты выполняют действия (например, отменяют бронирование, удаляют папку) на основе выдачи инструментов или слов пользователя. Авторы показывают, что агенты часто действуют, не уточняя, если запросы не различают один и несколько записей; перечисление записей останавливает большинство агентов, простая индикация числа — нет; утверждения пользователя (например «пусто») сокращают число действий; протестированные новейшие модели Claude и GPT открывали посчитанную вторую запись и затем не действовали; в розничном бенчмарке схожие клиенты приводили к ошибочным записям в ~25% бесед, если lookup не проверял альтернативные записи или улицу.

КЛЮЧЕВЫЕ ТЕЗИСЫ

  1. Статья применяет теорию презуппозиций для анализа, когда LLM‑агенты выполняют действия (например, отменяют бронирование, удаляют папку) на основе выдачи инструментов или слов пользователя.
  2. Авторы показывают, что агенты часто действуют, не уточняя, если запросы не различают один и несколько записей; перечисление записей останавливает большинство агентов, простая индикация числа — нет; утверждения пользователя (например «пусто») сокращают число действий; протестированные новейшие модели Claude и GPT открывали посчитанную вторую запись и затем не действовали; в розничном бенчмарке схожие клиенты приводили к ошибочным записям в ~25% бесед, если lookup не проверял альтернативные записи или улицу.
  3. Демонстрирует, что формат выдачи инструментов (перечень vs счётчик vs проверка) и заявления пользователя критически влияют на безопасность и корректность агентов, поэтому lookup‑ы и оценки должны показывать конкурирующие записи, чтобы избежать ошибочных действий.

ПОЧЕМУ ЭТО ВАЖНО

Демонстрирует, что формат выдачи инструментов (перечень vs счётчик vs проверка) и заявления пользователя критически влияют на безопасность и корректность агентов, поэтому lookup‑ы и оценки должны показывать конкурирующие записи, чтобы избежать ошибочных действий.

ИСТОЧНИКИ И ХРОНОЛОГИЯ

1