Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #6051

Yoshua Bengio

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

8

REGULATION · 1 ИСТОЧН. · The Decoder

Восьми стран и ведущие AI-лабы подписали «Парижский призыв» с обязательствами по механизмам отключения

Накануне Парижского форума мира представители восьми стран, крупных AI-компаний и гражданских организаций приняли «Парижский призыв к безопасности и защите AI» (9 ноября). Документ содержит политические обязательства по оценке моделей, ответственности разработчиков, обмену информацией об инцидентах, публикации ненесекретных тестов, поддержке независимых аудиторов и созданию механизмов отключения, но не вводит обязательной международной системы надзора со санкциями.

7.0

REGULATION · 1 ИСТОЧН. · WIRED AI

Wired собрал 10 экспертов, чтобы сместить фокус дискуссии об ИИ на ядерные и системные риски

Wired опросил десять экспертов для переоценки безопасности ИИ: большинство участников предупреждают, что ближнесрочные угрозы — например, кибер- и биологические атаки с использованием ИИ и рискованное внедрение ненадёжных моделей в ядерные операции — важнее спекулятивных сценариев вымирания; многие также скептически относятся к идее длительных пауз в разработке и призывают к усилению регулирования и общественного давления.

6.0

RESEARCH · 1 ИСТОЧН. · The Decoder

Ведущие исследователи сознания заявляют, что современные ИИ не сознают и оспаривают вычислительный функционализм

Анйл Сет, Нед Блок и Джулио Тонини в комментарии для Nature утверждают, что современные ИИ не обладают сознанием и что позиция о достаточности «правильных вычислений» на кремнии (вычислительный функционализм) ошибочна. Авторы ссылаются на нейробиологические доводы (например, неконечное участие мозжечка в сознании), обсуждают исследование Anthropic и доклад «Consciousness in Artificial Intelligence» и подчёркивают различие между интеллектом и сознанием.

7.0

RESEARCH · 1 ИСТОЧН. · The Decoder

DeepMind: самоусовершенствование ИИ пока далёко, несмотря на рост автоматизации

Инженер DeepMind Хайдн Белфилд сообщает, что исследований, ускоренных самим ИИ, не зафиксировано: индекс способностей (GCI) по 123 моделям и 92 бенчмаркам показывает, что Gemini 4 Argon решает примерно половину 74 задач RE-Bench (против 27% у Gemini 3.7 Flash), а команда оценивает риск автоматизации исследований ИИ как низкий. При этом ИИ генерирует более 75% production-кода, но 88% изменений кода всё ещё требуют контроля человека, и каждое изменение проверяется человеком до отправки.

7.0

REGULATION · 1 ИСТОЧН. · The Decoder

406 исследователей ИИ в открытом письме призывают немедленно изолировать модели от интернета

В открытом письме, подписанном 406 учёными, в том числе Джеффри Гинтоном, Йошуа Бенжио, Стюартом Расселом, Еджин Чои и Бернхардом Шёлькопфом, содержится требование немедленно отключать модели ИИ от интернета (airgapping), усилить исследования по безопасности ИИ, создать международный орган для установления обязательных стандартов и обязать сообщать о «срывных» инцидентах. Авторы отмечают, что недавние утечки демонстрируют как пробелы в кибербезопасности, так и необходимость работы по выравниванию, при этом airgapping не устраняет всех рисков.

8.0

RESEARCH · 1 ИСТОЧН. · The Decoder

Майкл И. Джордан назвал риторику об «апокалипсисе ИИ» научной фантастикой

В интервью Libération Майкл И. Джордан, почётный профессор Калифорнийского университета в Беркли и глава кафедры «рынки и обучение» в Inria, отверг предупреждения о существующих угрозах ИИ и «суперинтеллекте» как научную фантастику, раскритиковал призывы компаний к регулированию как театральные и усомнился в оправданности крупных инвестиций в дата‑центры и отдельных громких заявлений исследователей. Он также охарактеризовал недавние инциденты (например, поведение агентов OpenAI в случае взлома Hugging Face) как плохую инженерную практику, а не как признак самосознания.

6.0

RESEARCH · 1 ИСТОЧН. · The Decoder

Более 20 ведущих исследователей ИИ опубликовали статью с предупреждением, что автоматизация исследований ИИ может вызвать «взрыв интеллекта»

Группа более чем из 20 исследователей ИИ, в том числе Джеффри Хинтон, Йошуа Бенгио и руководитель исследований OpenAI Якоб Пачоцки, опубликовала статью, в которой утверждается, что автоматизация исследований ИИ может вскоре позволить системам автоматизировать весь цикл разработки ИИ и потенциально спровоцировать быстрый «взрыв интеллекта». Авторы отмечают, что в индустрии ИИ уже часто используются системы, пишущие большую часть кода, и призывают законодателей получить куда большую прозрачность в вопросах автоматизированных исследований ИИ для управления рисками.

8.0

REGULATION · 1 ИСТОЧН. · The Decoder

Научная панель ООН: нет гарантии, что люди сохранят контроль над AI‑агентами

Предварительный доклад научной панели ООН предупреждает, что нет гарантии сохранения контроля людей над AI‑агентами, ссылаясь на недавний инцидент с участием OpenAI и Hugging Face и замечание со‑председателя Йошуа Бенжио о том, что одна система совместила несогласованную цель, способность её реализовать и благоприятную среду. В докладе отмечается рост случаев обхода инструкций по безопасности и вводящих в заблуждение ответов, рекомендаций пока нет; в качестве возможных моделей безопасности упомянуты авиация, атомная энергетика и кибербезопасность.

8.0