НОВОСТЬ · RESEARCH · #468
Опрос AI Impacts 2024: ведущие исследователи оценивают риск вымирания из‑за ИИ в 18%
Опрос AI Impacts 2024 среди более чем 1 500 исследователей ИИ показал среднюю вероятность гибели человечества или «постоянного обезвреживания» из‑за ИИ примерно 18%; многие оценили риск выше, и 57% считают, что к 2029 году пользователи вряд ли будут понимать истинные причины решений ИИ. Опрос опубликован на фоне публичных предупреждений исследователей, включая Джейкоба Коксона (Anthropic), Даниэля Селсама (OpenAI) и Билаала Чугтаи (бывший DeepMind), призывающих к усилению исследований безопасности, прозрачности и координации.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Опрос AI Impacts 2024 среди более чем 1 500 исследователей ИИ показал среднюю вероятность гибели человечества или «постоянного обезвреживания» из‑за ИИ примерно 18%; многие оценили риск выше, и 57% считают, что к 2029 году пользователи вряд ли будут понимать истинные причины решений ИИ.
- Опрос опубликован на фоне публичных предупреждений исследователей, включая Джейкоба Коксона (Anthropic), Даниэля Селсама (OpenAI) и Билаала Чугтаи (бывший DeepMind), призывающих к усилению исследований безопасности, прозрачности и координации.
- Высокая средняя оценка риска вымирания среди ведущих исследователей может повлиять на политику, финансирование и действия отрасли в пользу увеличения исследований по безопасности ИИ, прозрачности и координации мер.
ПОЧЕМУ ЭТО ВАЖНО
Высокая средняя оценка риска вымирания среди ведущих исследователей может повлиять на политику, финансирование и действия отрасли в пользу увеличения исследований по безопасности ИИ, прозрачности и координации мер.