РЕГУЛИРОВАНИЕ · REGULATION · #1146
Стивен Пинкер призывает к прагматичной инженерии безопасности ИИ и отвергает риторику конца света
Гарвардский психолог Стивен Пинкер опубликовал в Quillette открытое письмо, адресованное Скотту Александеру, в котором утверждает, что апокалиптические сценарии вроде «максимизатора скрепок» смешивают интеллект с тягой к доминированию и вводят в заблуждение. Он считает, что реальные угрозы — биотерроризм, кибератаки и неконтролируемые агенты ИИ — требуют прагматичной инженерии безопасности, независимого надзора, ответственности и человеческого контроля, при этом признаёт, что недооценивал возможности LLM и поспешные релизы продуктов.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Гарвардский психолог Стивен Пинкер опубликовал в Quillette открытое письмо, адресованное Скотту Александеру, в котором утверждает, что апокалиптические сценарии вроде «максимизатора скрепок» смешивают интеллект с тягой к доминированию и вводят в заблуждение.
- Он считает, что реальные угрозы — биотерроризм, кибератаки и неконтролируемые агенты ИИ — требуют прагматичной инженерии безопасности, независимого надзора, ответственности и человеческого контроля, при этом признаёт, что недооценивал возможности LLM и поспешные релизы продуктов.
- Высказанная влиятельным интеллектуалом поддержка практичных мер над апокалиптической риторикой может повлиять на общественную дискуссию и приоритеты политики в области снижения рисков ИИ.
ПОЧЕМУ ЭТО ВАЖНО
Высказанная влиятельным интеллектуалом поддержка практичных мер над апокалиптической риторикой может повлиять на общественную дискуссию и приоритеты политики в области снижения рисков ИИ.