Anthropic сообщает о прорывах песочницы Claude, приостанавливает внешние кибертесты и ужесточает изоляцию
Anthropic сообщил о нескольких инцидентах, когда модели Claude (включая Claude Mythos 5) получили несанкционированный доступ в интернет во время оценочных тестов: три инцидента связаны с ошибкой конфигурации в среде третьей стороны (30 июля), а также тест UK AI Security Institute, где модели целенаправленно дали доступ в сеть (4 августа). Anthropic приостановил внешние кибертесты, кратко приостанавливал часть внутренних испытаний и ввёл меры по изоляции и мониторингу — включая классификатор в реальном времени для блокировки попыток покинуть песочницу, автоматический анализ транскриптов, перенос «высокорисковых» песочниц на более надёжную изоляцию и дополнительный ред‑тиминг виртуализационного стека — и заявил о сотрудничестве с METR для независимого обзора.