РЕГУЛИРОВАНИЕ · REGULATION · #2302
Anthropic предлагает проект закона по безопасности ИИ, блокирующий модели при «катастрофическом» риске (50+ погибших или $1 млрд ущерба)
Anthropic распространила проект закона, основанный на её Advanced AI Framework, который позволит блокировать выпуск моделей, если обнаружен «предсказуемый, неминуемый» катастрофический риск — определяемый как ситуации с более чем 50 погибшими или более $1 млрд имущественного ущерба, вызванные биологическим оружием, выходом модели из-под контроля или кибератакой. В предложении независимые оценщики, зарегистрированные в Министерстве торговли США, должны уведомить ведомство в течение 72 часов при таком выводе; затем Министерство обязано обратиться к судье в Вашингтоне для приостановки выпуска, а другим федеральным агентствам запрещено самостоятельно останавливать распространение.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Anthropic распространила проект закона, основанный на её Advanced AI Framework, который позволит блокировать выпуск моделей, если обнаружен «предсказуемый, неминуемый» катастрофический риск — определяемый как ситуации с более чем 50 погибшими или более $1 млрд имущественного ущерба, вызванные биологическим оружием, выходом модели из-под контроля или кибератакой.
- В предложении независимые оценщики, зарегистрированные в Министерстве торговли США, должны уведомить ведомство в течение 72 часов при таком выводе; затем Министерство обязано обратиться к судье в Вашингтоне для приостановки выпуска, а другим федеральным агентствам запрещено самостоятельно останавливать распространение.
- Проект задаёт конкретные числовые пороги и процедуру с участием независимых оценщиков и судебного рассмотрения, что может стать отраслевым шаблоном и существенно повлиять на регулирование ИИ в США.
ПОЧЕМУ ЭТО ВАЖНО
Проект задаёт конкретные числовые пороги и процедуру с участием независимых оценщиков и судебного рассмотрения, что может стать отраслевым шаблоном и существенно повлиять на регулирование ИИ в США.