ProvenanceGuard: проверка фактичности с учётом источников для агентов, использующих MCP
В работе ProvenanceGuard предложен постгенеративный проверяющий модуль, который сохраняет идентификаторы источников из трасс MCP и проверяет не только поддержку каждого утверждения, но и корректность его атрибуции. Метод разбивает ответ на утверждения, находит для каждого релевантный источник, проверяет поддержку (в локальной конфигурации авторов использовались MiniLM и DeBERTa), сверяет заявленную атрибуцию и может блокировать или инициировать корректирующие правки; в экспериментах использовали 281 реальную трассу медицинского агента.