НОВОСТЬ · CODING · #3133
Эдвайт Патель представил методику Zero Trust для AI-агентов на QCon AI
Эдвайт Патель (старший SRE в Broadcom) на QCon AI представил практическую методику защиты AI-агентов в продакшне: перенос границ защиты с промпта на слой инструментов, применение ограниченных идентичностей рабочих нагрузок, смягчение инъекций промптов через контроль выводов инструментов, а также организация аудируемой наблюдаемости и аварийных отключений для защиты данных при быстрой поставке. Выступление основано на реальных инцидентах и практиках облачной и комплаенс-безопасности (AWS/GCP, SOC 2/ISO).
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Эдвайт Патель (старший SRE в Broadcom) на QCon AI представил практическую методику защиты AI-агентов в продакшне: перенос границ защиты с промпта на слой инструментов, применение ограниченных идентичностей рабочих нагрузок, смягчение инъекций промптов через контроль выводов инструментов, а также организация аудируемой наблюдаемости и аварийных отключений для защиты данных при быстрой поставке.
- Выступление основано на реальных инцидентах и практиках облачной и комплаенс-безопасности (AWS/GCP, SOC 2/ISO).
- AI-агенты могут самостоятельно запрашивать и экспортировать чувствительные данные; для безопасной работы в продакшне нужны практичные и аудируемые механизмы контроля.
ПОЧЕМУ ЭТО ВАЖНО
AI-агенты могут самостоятельно запрашивать и экспортировать чувствительные данные; для безопасной работы в продакшне нужны практичные и аудируемые механизмы контроля.