Anthropic предлагает проект закона по безопасности ИИ, блокирующий модели при «катастрофическом» риске (50+ погибших или $1 млрд ущерба)
Anthropic распространила проект закона, основанный на её Advanced AI Framework, который позволит блокировать выпуск моделей, если обнаружен «предсказуемый, неминуемый» катастрофический риск — определяемый как ситуации с более чем 50 погибшими или более $1 млрд имущественного ущерба, вызванные биологическим оружием, выходом модели из-под контроля или кибератакой. В предложении независимые оценщики, зарегистрированные в Министерстве торговли США, должны уведомить ведомство в течение 72 часов при таком выводе; затем Министерство обязано обратиться к судье в Вашингтоне для приостановки выпуска, а другим федеральным агентствам запрещено самостоятельно останавливать распространение.