ИССЛЕДОВАНИЕ · RESEARCH · #1629
arXiv:2610.07249v1 — семантическая геометрия не даёт надёжного преддействующего суждения ИИ
В новой работе на arXiv исследовали, может ли представление действий и политик в виде векторов (семантическая геометрия) позволить ИИ определять управляющие или блокирующие правила до выполнения действия. В четырёх исследованиях геометрические методы не дали надёжного преддействующего суждения; лексический маршрутизатор нашёл управляющие и блокирующие политики и сократил числа проверок, но итоговый конвейер всё же эскалировал все 2 304 тестовых действия, поэтому авторы предлагают использовать явные «графы последствий», связывающие актёра, полномочия, условия, исключения и результаты действий.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В новой работе на arXiv исследовали, может ли представление действий и политик в виде векторов (семантическая геометрия) позволить ИИ определять управляющие или блокирующие правила до выполнения действия.
- В четырёх исследованиях геометрические методы не дали надёжного преддействующего суждения; лексический маршрутизатор нашёл управляющие и блокирующие политики и сократил числа проверок, но итоговый конвейер всё же эскалировал все 2 304 тестовых действия, поэтому авторы предлагают использовать явные «графы последствий», связывающие актёра, полномочия, условия, исключения и результаты действий.
- Показывает, что одни только пространственные встраивания не решают задачу интерпретации политик для безопасного выбора действий ИИ и смещает внимание на явные графы последствий.
ПОЧЕМУ ЭТО ВАЖНО
Показывает, что одни только пространственные встраивания не решают задачу интерпретации политик для безопасного выбора действий ИИ и смещает внимание на явные графы последствий.