РЕГУЛИРОВАНИЕ · REGULATION · #652
Губернатор Калифорнии издал указ по ИИ с требованием независимых аудитов и «аварийного выключателя»
Губернатор Калифорнии Гэвин Ньюсом подписал указ, который просит собрать группу экспертов и в течение двух месяцев представить рекомендации по ужесточению надзора за ИИ: обязательные независимые верификаторы на местах, стандарты для отчётов о рисках и прозрачности, отчётность о «инцидентах потери контроля» и создание регулярно проверяемого «аварийного выключателя» для передовых моделей. Указ также ускоряет تنفيذ недавно принятых законов штата о рамке и реестре независимых верификаторов и позиционируется как возможная модель для федерального регулирования.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Губернатор Калифорнии Гэвин Ньюсом подписал указ, который просит собрать группу экспертов и в течение двух месяцев представить рекомендации по ужесточению надзора за ИИ: обязательные независимые верификаторы на местах, стандарты для отчётов о рисках и прозрачности, отчётность о «инцидентах потери контроля» и создание регулярно проверяемого «аварийного выключателя» для передовых моделей.
- Указ также ускоряет تنفيذ недавно принятых законов штата о рамке и реестре независимых верификаторов и позиционируется как возможная модель для федерального регулирования.
- Требования штата о независимых аудиторах и проверяемом «аварийном выключателе» могут фактически задать национальные стандарты и повлиять на федеральную политику и практики отрасли.
ПОЧЕМУ ЭТО ВАЖНО
Требования штата о независимых аудиторах и проверяемом «аварийном выключателе» могут фактически задать национальные стандарты и повлиять на федеральную политику и практики отрасли.
ИСТОЧНИКИ И ХРОНОЛОГИЯ
2WIth Congress unlikely to act before the midterms, California is angling to take the lead. California Gov. Gavin Newsom (D) is positioning the state to take the lead on AI oversight, including the potential to mandate a “kill switch” for frontier models, with a new executive order issued Friday. Newsom’s order directs the state to convene a group of experts that will deliver recommendations within two months on how…
California Governor Gavin Newsom signed an executive order to speed up independent oversight of AI companies and push for a "kill switch" for AI models. The order responds to recent incidents like the Hugging Face attack . An expert panel has two months to deliver recommendations, including a requirement for AI companies to embed independent auditors directly inside their labs. The proposal already came from the AI l…