НОВОСТЬ · RESEARCH · #147
К слою обеспечения решений для ИИ‑помощи в планировании полётов в управлении воздушным движением
В статье на arXiv предлагается AI Trust and Assurance Layer (ATAL) — модельно‑независимая архитектура оценки решений, которая определяет пригодность ИИ‑сгенерированных планов полётов для эксплуатации, сочетая проверки семантической стабильности при изменении подсказок, операционной согласованности структурированных выходных данных и валидации в соответствии с нормативными правилами, с последующей оценкой в виде Decision Readiness Level (DRL). Экспериментальное исследование в духе ATM показывает, как можно выявлять небезопасные, несогласованные или вводящие в заблуждение результаты до их использования при валидации или выполнении планов, и авторы указывают на переносимость подхода в другие критичные области.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В статье на arXiv предлагается AI Trust and Assurance Layer (ATAL) — модельно‑независимая архитектура оценки решений, которая определяет пригодность ИИ‑сгенерированных планов полётов для эксплуатации, сочетая проверки семантической стабильности при изменении подсказок, операционной согласованности структурированных выходных данных и валидации в соответствии с нормативными правилами, с последующей оценкой в виде Decision Readiness Level (DRL).
- Экспериментальное исследование в духе ATM показывает, как можно выявлять небезопасные, несогласованные или вводящие в заблуждение результаты до их использования при валидации или выполнении планов, и авторы указывают на переносимость подхода в другие критичные области.
- Это закрывает практическую пробел в безопасности, предлагая способ количественной оценки и выявления надёжности выходов генеративного ИИ в критичных для безопасности операциях с участием человека.
ПОЧЕМУ ЭТО ВАЖНО
Это закрывает практическую пробел в безопасности, предлагая способ количественной оценки и выявления надёжности выходов генеративного ИИ в критичных для безопасности операциях с участием человека.