42 ведущих математика предупреждают Королевское общество: у продвинутого ИИ есть реальный и срочный экзистенциальный риск
Открытое письмо президенту Королевского общества от 42 математиков — в том числе обладателей медалей Филдса Мартина Хайера, Петера Шоля и Вендилина Вернера — предупреждает, что у продвинутого ИИ существует реальный и срочный экзистенциальный риск. В письме отмечается быстрый прогресс (указывают, что модели OpenAI и Anthropic недавно решили открытые исследовательские задачи, включая одну из задач тысячелетия) и говорится, что аналогично быстрый рост возможностей может привести к сверхчеловеческим способностям в кибербезопасности, автономном вооружении, разработке биологических и химических агентов и целевой дезинформации.