РЕГУЛИРОВАНИЕ · REGULATION · #617
Американо‑китайские эксперты предлагают запретить автономное управление ядерным оружием ИИ
Исследователи Мелани Сиссон (Brookings) и Тяньцзяо Цзян (Фудань) опубликовали предложения, в которых призывают США и Китай запретить ИИ самостоятельно запускать ядерное оружие, атаковать системы ядерного командования или самостоятельно проводить кибератаки на стратегическую инфраструктуру; они также предлагают согласовать понятие «человеческий контроль», а Цзян предлагает создать горячую линию для инцидентов с ИИ. Рекомендации опубликованы перед запланированной встречей Трампа и Си 24 сентября, опираются на понимание между Байденом и Си в ноябре 2024 года, но носят необязательный характер и перекликаются с предыдущими предупреждениями NSCAI о сохранении человеческого контроля.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Исследователи Мелани Сиссон (Brookings) и Тяньцзяо Цзян (Фудань) опубликовали предложения, в которых призывают США и Китай запретить ИИ самостоятельно запускать ядерное оружие, атаковать системы ядерного командования или самостоятельно проводить кибератаки на стратегическую инфраструктуру; они также предлагают согласовать понятие «человеческий контроль», а Цзян предлагает создать горячую линию для инцидентов с ИИ.
- Рекомендации опубликованы перед запланированной встречей Трампа и Си 24 сентября, опираются на понимание между Байденом и Си в ноябре 2024 года, но носят необязательный характер и перекликаются с предыдущими предупреждениями NSCAI о сохранении человеческого контроля.
- Если такие запреты и механизмы управления инцидентами будут приняты, они могут снизить риск случайной эскалации со стороны автоматизированных систем в двух крупнейших ядерных державах.
ПОЧЕМУ ЭТО ВАЖНО
Если такие запреты и механизмы управления инцидентами будут приняты, они могут снизить риск случайной эскалации со стороны автоматизированных систем в двух крупнейших ядерных державах.