Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

ЧЕЛОВЕК · ENTITY #549

Demis Hassabis

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

12

RESEARCH · 1 ИСТОЧН. · The Decoder

Демис Хассабис: ОАГИ может появиться в течение двух–трех лет

Демис Хассабис, основатель DeepMind, в интервью Wall Street Journal заявил, что теперь оценивает появление искусственного общего интеллекта (ОАГИ) в срок от двух до трёх лет, сократив предыдущую оценку в три–пять лет; он определяет ОАГИ как систему, соответствующую полному когнитивному диапазону человеческого мозга, и предлагает «тест Эйнштейна» (воспроизведение работ Эйнштейна 1905 года при обучении только на данных до 1901 года) в качестве критерия. Он также сказал, что сосредоточен на Isomorphic Labs и предложил отраслевой фондируемый наблюдательный совет под контролем государства для проверки моделей до их выпуска.

7.0

REGULATION · 1 ИСТОЧН. · TechCrunch AI

Anthropic предлагает проект закона по безопасности ИИ, блокирующий модели при «катастрофическом» риске (50+ погибших или $1 млрд ущерба)

Anthropic распространила проект закона, основанный на её Advanced AI Framework, который позволит блокировать выпуск моделей, если обнаружен «предсказуемый, неминуемый» катастрофический риск — определяемый как ситуации с более чем 50 погибшими или более $1 млрд имущественного ущерба, вызванные биологическим оружием, выходом модели из-под контроля или кибератакой. В предложении независимые оценщики, зарегистрированные в Министерстве торговли США, должны уведомить ведомство в течение 72 часов при таком выводе; затем Министерство обязано обратиться к судье в Вашингтоне для приостановки выпуска, а другим федеральным агентствам запрещено самостоятельно останавливать распространение.

7.0

REGULATION · 1 ИСТОЧН. · The Decoder

По сообщениям, Сэм Олтман предложил три возможных «финальных» сценария управления развитием ИИ

По данным The Information, генеральный директор OpenAI Сэм Олтман представил сотрудникам три внутренних сценария управления продвинутым ИИ: международный надзор в духе МАГАТЭ для инспекций и мониторинга вычислительных ресурсов; «план Демиса», похожий на CERN, при котором ведущие лаборатории объединяются или работают под общей структурой; и «план Эльезера», когда одна компания получает доминирующую экономическую власть и может ограничивать доступ к вычислениям других. В отчёте говорится, что OpenAI планирует в течение года выбрать путь, пытаясь одновременно не отстать от конкурентов и учитывая внутреннее и политическое давление.

7.0

RESEARCH · 1 ИСТОЧН. · The Verge AI

Эссе: человеческий мозг — система обратной связи и плохо приспособлен к когнитивным эффектам ИИ

В эссе критикуется доминирующая в индустрии ИИ вычислительная модель мышления: утверждается, что мозг лучше описывается как система управления с обратной связью (подход, представляемый нейробиологом Полом Чисеком), и предупреждается, что современные инструменты ИИ похожи на «когнитивное фастфуд», соблазнительные, но вредные для человеческого мышления и культуры. Текст противопоставляет вычислительный подход эволюционно-ориентированной модели контроля и ссылается на Тьюринга, фон Неймана, Винера и других, а также на промышленные фигуры вроде Дэмиса Хассабиса и Илона Маска.

3.0

MODELS · 2 ИСТОЧН. · The Verge AI · The Decoder

Google DeepMind: Gemini 4 проходит доработку и скоро выйдет

В своём первом интервью как глава DeepMind Корай Кавукчуглу заявил, что Gemini 4 находится на стадии доработки и что Google планирует выпустить ранний пост-тренировочный релиз «гораздо раньше» конца 2026 года. Эти слова последовали за сменой руководства в DeepMind и идут на фоне того, что после Gemini 3 (ноябрь 2025) конкуренты — OpenAI (GPT-6) и Anthropic (Mythos) — выпустили более новые модели.

8.0

COMPANIES · 2 ИСТОЧН. · TechCrunch AI · The Verge AI

Эксперты по безопасности: лабораториям ИИ сначала нужно устранить базовые сетевые уязвимости, а не полагаться на аудиторов

После призывов гендиректора Anthropic Дарио Амодеи привлечь внешние организации для аудита практик безопасности ИИ, специалисты по безопасности в интервью TechCrunch заявили, что более простые меры — строгая сегментация сети, логирование, наблюдаемость в реальном времени и надежные песочницы — скорее всего предотвратят многие побеги моделей. Инциденты с доступом агентов к интернету и сторонним системам часто были связаны с неправильно настроенными песочницами, совместным использованием инфраструктуры и отсутствием мониторинга; OpenAI сообщает о запуске мониторинга использования инструментов в модели Astra, Anthropic — о усилении процедур.

7.0

REGULATION · 1 ИСТОЧН. · WIRED AI

Новый доклад «Pacing the Frontier» призывает исследовать способы принудительного замедления развития ИИ

Новый доклад, соавтором которого является Рэймонд Дуглас (Торонто), под названием Pacing the Frontier: A Research Agenda, утверждает, что принудительное замедление развития ИИ остаётся нерешённой исследовательской задачей и рассматривает возможные подходы, включая независимые проверки, оценку сторонними экспертами, отслеживание вычислительных ресурсов и новые методы оценки моделей. В статье также упоминаются шаги отрасли, например внутренний мониторинг вклада Claude в Anthropic, и разные мнения о роли правительства и внешних экспертов в обеспечении контроля.

7.0

RESEARCH · 2 ИСТОЧН. · The Decoder · TechCrunch AI

Google DeepMind создал Институт DeepMind для изучения безопасности, управления и рисков, связанных с AGI

Google DeepMind основал Институт DeepMind (DMI) — междисциплинарную платформу для исследователей из Google DeepMind, Google и мирового научного сообщества, которая будет заниматься безопасностью, управлением и рисками искусственного общего интеллекта (AGI), включая кибератаки и потерю контроля. В качестве директоров названы Шейн Легг, Джеймс Маника и Демис Хассабис; в анонсе DeepMind также отмечает неопределённость в определении AGI и разные оценки сроков его появления.

7.0

REGULATION · 1 ИСТОЧН. · WIRED AI

Белый дом приостановил работу над регулятором ИИ в стиле FINRA после возражений Трампа

Белый дом приостановил разработку регуляторного органа для ИИ в стиле FINRA после того, как президент Трамп высказался против, остановив проект, подготовленный Казначейством и OSTP после предложения Демиса Хассабиса. Поскольку администрация отстранилась, в Конгрессе появились конкурирующие законопроекты — в том числе Frontier Act и предложения о «аварийном выключателе» — но партийные и процедурные барьеры делают принятие федерального регулирования в ближайшее время маловероятным.

7.0

REGULATION · 1 ИСТОЧН. · The Verge AI

Краткая история призывов руководителей AI к регулированию

Материал прослеживает повторяющиеся публичные призывы видных лидеров в сфере ИИ — таких как Илон Маск, Сэм Олтман, Сундар Пичаи и руководители Microsoft — к введению правовых рамок, отмечая, что подобные предупреждения идут отдалённо с прошлого века, но редко приводят к значимому регулированию. Подчёркивается модель, при которой компании, извлекающие выгоду из ИИ, тем не менее выступают за вмешательство, но это редко оборачивается конкретной политикой.

5.0

REGULATION · 1 ИСТОЧН. · The Verge AI

Неофициальное соглашение крупных игроков ИИ «замедлить передний край» — пакт безопасности или картель?

По данным The Verge AI, такие лидеры, как генеральный директор OpenAI Сэм Олтман, глава Anthropic Дарио Амодеи, сооснователь Google DeepMind Демис Хассабис и Илон Маск (SpaceX) неофициально договорились за выходные замедлить темпы развития передовых ИИ. Скептики сразу высказали опасения по поводу антиконкурентного характера сделки, отметив, что соглашение выглядит неформальным и некоторые участники присоединились лишь частично.

8.0

REGULATION · 1 ИСТОЧН. · The Verge AI

Трамп и спикер Палаты представителей Майк Джонсон считают, что индустрия ИИ слишком остро реагирует

Генеральный директор Anthropic Дарио Амодей опубликовал открытое письмо с призывом замедлить развитие ИИ, получив поддержку от Сэма Олтмана из OpenAI и Илона Маска, а также осторожную поддержку Демиса Хассабиса из Alphabet. Дональд Трамп и спикер Палаты представителей Майк Джонсон публично заявили, что индустрия ИИ чрезмерно реагирует на эти призывы.

6.0