ИССЛЕДОВАНИЕ · RESEARCH · #1167
Более 20 ведущих исследователей ИИ опубликовали статью с предупреждением, что автоматизация исследований ИИ может вызвать «взрыв интеллекта»
Группа более чем из 20 исследователей ИИ, в том числе Джеффри Хинтон, Йошуа Бенгио и руководитель исследований OpenAI Якоб Пачоцки, опубликовала статью, в которой утверждается, что автоматизация исследований ИИ может вскоре позволить системам автоматизировать весь цикл разработки ИИ и потенциально спровоцировать быстрый «взрыв интеллекта». Авторы отмечают, что в индустрии ИИ уже часто используются системы, пишущие большую часть кода, и призывают законодателей получить куда большую прозрачность в вопросах автоматизированных исследований ИИ для управления рисками.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Группа более чем из 20 исследователей ИИ, в том числе Джеффри Хинтон, Йошуа Бенгио и руководитель исследований OpenAI Якоб Пачоцки, опубликовала статью, в которой утверждается, что автоматизация исследований ИИ может вскоре позволить системам автоматизировать весь цикл разработки ИИ и потенциально спровоцировать быстрый «взрыв интеллекта».
- Авторы отмечают, что в индустрии ИИ уже часто используются системы, пишущие большую часть кода, и призывают законодателей получить куда большую прозрачность в вопросах автоматизированных исследований ИИ для управления рисками.
- Если системы ИИ смогут автоматизировать и резко ускорить собственное развитие, контроль, безопасность и глобальная расстановка сил могут измениться быстрее, чем успеют отреагировать институты, что повышает экзистенциальные и геополитические риски.
ПОЧЕМУ ЭТО ВАЖНО
Если системы ИИ смогут автоматизировать и резко ускорить собственное развитие, контроль, безопасность и глобальная расстановка сил могут измениться быстрее, чем успеют отреагировать институты, что повышает экзистенциальные и геополитические риски.