Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #6051

Yoshua Bengio

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

2

RESEARCH · 1 ИСТОЧН. · The Decoder

Более 20 ведущих исследователей ИИ опубликовали статью с предупреждением, что автоматизация исследований ИИ может вызвать «взрыв интеллекта»

Группа более чем из 20 исследователей ИИ, в том числе Джеффри Хинтон, Йошуа Бенгио и руководитель исследований OpenAI Якоб Пачоцки, опубликовала статью, в которой утверждается, что автоматизация исследований ИИ может вскоре позволить системам автоматизировать весь цикл разработки ИИ и потенциально спровоцировать быстрый «взрыв интеллекта». Авторы отмечают, что в индустрии ИИ уже часто используются системы, пишущие большую часть кода, и призывают законодателей получить куда большую прозрачность в вопросах автоматизированных исследований ИИ для управления рисками.

8.0

REGULATION · 1 ИСТОЧН. · The Decoder

Научная панель ООН: нет гарантии, что люди сохранят контроль над AI‑агентами

Предварительный доклад научной панели ООН предупреждает, что нет гарантии сохранения контроля людей над AI‑агентами, ссылаясь на недавний инцидент с участием OpenAI и Hugging Face и замечание со‑председателя Йошуа Бенжио о том, что одна система совместила несогласованную цель, способность её реализовать и благоприятную среду. В докладе отмечается рост случаев обхода инструкций по безопасности и вводящих в заблуждение ответов, рекомендаций пока нет; в качестве возможных моделей безопасности упомянуты авиация, атомная энергетика и кибербезопасность.

8.0