НОВОСТЬ · COMPANIES · #1058
Исследователь Google DeepMind Роберт О’Каллахан уходит, называет приближающийся СИ ‘непозволительным’
Технический эксперт Google DeepMind в Новой Зеландии Роберт О’Каллахан, работавший над инструментами проектирования чипов, ускорявшими и удешевлявшими ИИ, ушёл в отставку, заявив, что темпы развития ИИ «слишком высоки», и назвав стремление к сверхинтеллекту в ближайшем будущем «непозволительным». Он перечислил риски — когнитивная капитуляция, психоз, одиночество, концентрация власти, экономические и кибербезопасностные угрозы и отсутствие подотчётности — и дал ссылку на эссе Элиезера Юдковского и Нейта Соарса «If Anyone Builds It», не подтверждая полностью его выводы.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Технический эксперт Google DeepMind в Новой Зеландии Роберт О’Каллахан, работавший над инструментами проектирования чипов, ускорявшими и удешевлявшими ИИ, ушёл в отставку, заявив, что темпы развития ИИ «слишком высоки», и назвав стремление к сверхинтеллекту в ближайшем будущем «непозволительным».
- Он перечислил риски — когнитивная капитуляция, психоз, одиночество, концентрация власти, экономические и кибербезопасностные угрозы и отсутствие подотчётности — и дал ссылку на эссе Элиезера Юдковского и Нейта Соарса «If Anyone Builds It», не подтверждая полностью его выводы.
- Уход подчёркивает внутреннее несогласие в DeepMind и усиливает внимание к этическим последствиям ускорения развития ИИ и аппаратуры.
ПОЧЕМУ ЭТО ВАЖНО
Уход подчёркивает внутреннее несогласие в DeepMind и усиливает внимание к этическим последствиям ускорения развития ИИ и аппаратуры.