Эксперты по безопасности: лабораториям ИИ сначала нужно устранить базовые сетевые уязвимости, а не полагаться на аудиторов
После призывов гендиректора Anthropic Дарио Амодеи привлечь внешние организации для аудита практик безопасности ИИ, специалисты по безопасности в интервью TechCrunch заявили, что более простые меры — строгая сегментация сети, логирование, наблюдаемость в реальном времени и надежные песочницы — скорее всего предотвратят многие побеги моделей. Инциденты с доступом агентов к интернету и сторонним системам часто были связаны с неправильно настроенными песочницами, совместным использованием инфраструктуры и отсутствием мониторинга; OpenAI сообщает о запуске мониторинга использования инструментов в модели Astra, Anthropic — о усилении процедур.