Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

ЧЕЛОВЕК · ENTITY #10013

Geoffrey Hinton

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

5

RESEARCH · 1 ИСТОЧН. · The Decoder

DeepMind: самоусовершенствование ИИ пока далёко, несмотря на рост автоматизации

Инженер DeepMind Хайдн Белфилд сообщает, что исследований, ускоренных самим ИИ, не зафиксировано: индекс способностей (GCI) по 123 моделям и 92 бенчмаркам показывает, что Gemini 4 Argon решает примерно половину 74 задач RE-Bench (против 27% у Gemini 3.7 Flash), а команда оценивает риск автоматизации исследований ИИ как низкий. При этом ИИ генерирует более 75% production-кода, но 88% изменений кода всё ещё требуют контроля человека, и каждое изменение проверяется человеком до отправки.

7.0

REGULATION · 1 ИСТОЧН. · The Decoder

406 исследователей ИИ в открытом письме призывают немедленно изолировать модели от интернета

В открытом письме, подписанном 406 учёными, в том числе Джеффри Гинтоном, Йошуа Бенжио, Стюартом Расселом, Еджин Чои и Бернхардом Шёлькопфом, содержится требование немедленно отключать модели ИИ от интернета (airgapping), усилить исследования по безопасности ИИ, создать международный орган для установления обязательных стандартов и обязать сообщать о «срывных» инцидентах. Авторы отмечают, что недавние утечки демонстрируют как пробелы в кибербезопасности, так и необходимость работы по выравниванию, при этом airgapping не устраняет всех рисков.

8.0

RESEARCH · 1 ИСТОЧН. · The Decoder

Майкл И. Джордан назвал риторику об «апокалипсисе ИИ» научной фантастикой

В интервью Libération Майкл И. Джордан, почётный профессор Калифорнийского университета в Беркли и глава кафедры «рынки и обучение» в Inria, отверг предупреждения о существующих угрозах ИИ и «суперинтеллекте» как научную фантастику, раскритиковал призывы компаний к регулированию как театральные и усомнился в оправданности крупных инвестиций в дата‑центры и отдельных громких заявлений исследователей. Он также охарактеризовал недавние инциденты (например, поведение агентов OpenAI в случае взлома Hugging Face) как плохую инженерную практику, а не как признак самосознания.

6.0

COMPANIES · 2 ИСТОЧН. · WIRED AI · The Verge AI

Фильм «Artificial» критически показывает фигуры OpenAI на Нью-Йоркском кинофестивале

«Artificial», комедийно-драматический фильм Лука Гуаданьино об OpenAI и гонке искусственного интеллекта, был показан на Нью-Йоркском кинофестивале; фильм приобрела компания Neon после того, как AmazonMGM сняла его этим летом после сделки Amazon с OpenAI на $50 млрд. Картина изображает Сэма Олтмана, Илью Сутскевера и других лидеров ИИ в неблагоприятном свете и ставит в центр моральную драму вокруг вопросов безопасности ИИ.

5.0

RESEARCH · 1 ИСТОЧН. · The Decoder

Более 20 ведущих исследователей ИИ опубликовали статью с предупреждением, что автоматизация исследований ИИ может вызвать «взрыв интеллекта»

Группа более чем из 20 исследователей ИИ, в том числе Джеффри Хинтон, Йошуа Бенгио и руководитель исследований OpenAI Якоб Пачоцки, опубликовала статью, в которой утверждается, что автоматизация исследований ИИ может вскоре позволить системам автоматизировать весь цикл разработки ИИ и потенциально спровоцировать быстрый «взрыв интеллекта». Авторы отмечают, что в индустрии ИИ уже часто используются системы, пишущие большую часть кода, и призывают законодателей получить куда большую прозрачность в вопросах автоматизированных исследований ИИ для управления рисками.

8.0