РЕЛИЗ · COMPANIES · #2232
Microsoft запускает Guardian Agents для контроля и ограничения корпоративных AI‑агентов
Microsoft представила Guardian Agents в рамках Project Perception — инструмент для мониторинга корпоративных AI‑агентов, добавила обнаружение агентов в Microsoft Defender и механизмы ограничения доступа и требования одобрения человека для рискованных действий. Решение появилось после заявления гендиректора Сатьи Наделлы о том, что «передовые» модели ненадежны, и направлено на создание независимого контроля поставляемого интеллекта.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Microsoft представила Guardian Agents в рамках Project Perception — инструмент для мониторинга корпоративных AI‑агентов, добавила обнаружение агентов в Microsoft Defender и механизмы ограничения доступа и требования одобрения человека для рискованных действий.
- Решение появилось после заявления гендиректора Сатьи Наделлы о том, что «передовые» модели ненадежны, и направлено на создание независимого контроля поставляемого интеллекта.
- Отделение мониторинга агентов от поставщиков моделей снижает корпоративный риск безопасности и определяет, кто контролирует и продаёт инструменты надзора.
ПОЧЕМУ ЭТО ВАЖНО
Отделение мониторинга агентов от поставщиков моделей снижает корпоративный риск безопасности и определяет, кто контролирует и продаёт инструменты надзора.