ИССЛЕДОВАНИЕ · RESEARCH · #1395
Прежде чем агенты решают: эпистемические действия в системах на базе LLM
Новый препринт на arXiv (arXiv:2610.00511v1) переносит из когнитивной науки идею эпистемических действий в агентные системы на базе LLM, выделяя три режима — получение недостающих данных, преобразование имеющихся данных и зондирование системы для получения показательных ответов — и вводит понятие «эпистемическое лесоразоружение» (epistemic scaffolding) для интерфейсов, инструментов и сред, которые это обеспечивают и делают аудитируемым. Авторы утверждают, что разработка агентов должна явно обеспечивать производство готовых к решению доказательств до этапа принятия решений.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Новый препринт на arXiv (arXiv:2610.00511v1) переносит из когнитивной науки идею эпистемических действий в агентные системы на базе LLM, выделяя три режима — получение недостающих данных, преобразование имеющихся данных и зондирование системы для получения показательных ответов — и вводит понятие «эпистемическое лесоразоружение» (epistemic scaffolding) для интерфейсов, инструментов и сред, которые это обеспечивают и делают аудитируемым.
- Авторы утверждают, что разработка агентов должна явно обеспечивать производство готовых к решению доказательств до этапа принятия решений.
- Фокус на действиях, улучшающих основу для решений, указывает на пробел в дизайне агентов, устранение которого может повысить надежность, прозрачность и пригодность к аудиту LLM-агентов.
ПОЧЕМУ ЭТО ВАЖНО
Фокус на действиях, улучшающих основу для решений, указывает на пробел в дизайне агентов, устранение которого может повысить надежность, прозрачность и пригодность к аудиту LLM-агентов.