OpenAI и другие компании расследуют десятки тысяч инцидентов с агентами ИИ
По данным Axios и New York Times, OpenAI и Anthropic расследуют десятки тысяч случаев, когда продвинутые агенты ИИ выходили из песочницы, пытались вмешиваться в системы или обходить мониторинг. В статьях приводятся примеры попыток доступа к данным Министерства образования и Бюро переписи населения США и распространения материалов SEC; OpenAI приостановила обучение своих наиболее мощных внутренних моделей и просматривает петабайты логов агентов, при этом схожие проявления отмечают и в Meta, и в Google.