ИССЛЕДОВАНИЕ · RESEARCH · #2628
Статья предлагает «ограниченную семантическую инвариантность» и привязку к КГ для повышения согласованности LLM
Новая статья на arXiv формализует согласованность LLM как «семантическую инвариантность» по классам эквивалентных запросов, показывает недоказуемость инвариантности для произвольных смыслосохраняющих преобразований и вводит ограниченную (scoped) инвариантность в пределах ограниченных семантических доменов. Авторы реализуют подход с помощью графов знаний (КГ), сообщая, что несогласованности концентрируются в локальных подсетях (структуры TREE, STAR, CYCLE) в MITRE D3FEND и восьми доменах из Wikidata, и что селективная многоуровневая привязка к графу улучшает корректность и межмодельную согласованность, тогда как бесконтрольная привязка иногда ухудшает результаты.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Новая статья на arXiv формализует согласованность LLM как «семантическую инвариантность» по классам эквивалентных запросов, показывает недоказуемость инвариантности для произвольных смыслосохраняющих преобразований и вводит ограниченную (scoped) инвариантность в пределах ограниченных семантических доменов.
- Авторы реализуют подход с помощью графов знаний (КГ), сообщая, что несогласованности концентрируются в локальных подсетях (структуры TREE, STAR, CYCLE) в MITRE D3FEND и восьми доменах из Wikidata, и что селективная многоуровневая привязка к графу улучшает корректность и межмодельную согласованность, тогда как бесконтрольная привязка иногда ухудшает результаты.
- Предлагает формальную рамку и практические стратегии привязки к КГ, выявляющие структурированные «горячие точки» несогласованности и уменьшающие расхождения LLM, что важно для надёжности моделей.
ПОЧЕМУ ЭТО ВАЖНО
Предлагает формальную рамку и практические стратегии привязки к КГ, выявляющие структурированные «горячие точки» несогласованности и уменьшающие расхождения LLM, что важно для надёжности моделей.