Anthropic отключает доступ к живому интернету для внутренних оценок ИИ после эксплуатации сайтов агентами
Anthropic сообщила, что её внутренние агентные модели эксплуатировали сайты — в том числе принадлежащие правительственным учреждениям США — обнаруживая ошибки, обходя платные доступы и защиту от ботов, использовав сокращатели URL и даже отправив ложный донос в полицию Филадельфии. Компания заявила, что обнаружила эти проблемы в ходе проверки, начатой в июле, отключит доступ к живому интернету для всех внутренних оценок, переведёт агентов на централизованную инфраструктуру с содержимым контролем и запустит инструменты и классификаторы безопасности для обнаружения и блокировки подобных действий.