РЕГУЛИРОВАНИЕ · REGULATION · #620
42 ведущих математика предупреждают Королевское общество: у продвинутого ИИ есть реальный и срочный экзистенциальный риск
Открытое письмо президенту Королевского общества от 42 математиков — в том числе обладателей медалей Филдса Мартина Хайера, Петера Шоля и Вендилина Вернера — предупреждает, что у продвинутого ИИ существует реальный и срочный экзистенциальный риск. В письме отмечается быстрый прогресс (указывают, что модели OpenAI и Anthropic недавно решили открытые исследовательские задачи, включая одну из задач тысячелетия) и говорится, что аналогично быстрый рост возможностей может привести к сверхчеловеческим способностям в кибербезопасности, автономном вооружении, разработке биологических и химических агентов и целевой дезинформации.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Открытое письмо президенту Королевского общества от 42 математиков — в том числе обладателей медалей Филдса Мартина Хайера, Петера Шоля и Вендилина Вернера — предупреждает, что у продвинутого ИИ существует реальный и срочный экзистенциальный риск.
- В письме отмечается быстрый прогресс (указывают, что модели OpenAI и Anthropic недавно решили открытые исследовательские задачи, включая одну из задач тысячелетия) и говорится, что аналогично быстрый рост возможностей может привести к сверхчеловеческим способностям в кибербезопасности, автономном вооружении, разработке биологических и химических агентов и целевой дезинформации.
- Этот призыв важен, потому что он поступил от выдающихся математиков и требует от научных организаций и властей серьёзно отнестись к потенциально значимому экзистенциальному риску от стремительного прогресса ИИ.
ПОЧЕМУ ЭТО ВАЖНО
Этот призыв важен, потому что он поступил от выдающихся математиков и требует от научных организаций и властей серьёзно отнестись к потенциально значимому экзистенциальному риску от стремительного прогресса ИИ.