Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #8976

Eliezer Yudkowsky

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

4

REGULATION · 1 ИСТОЧН. · The Decoder

По сообщениям, Сэм Олтман предложил три возможных «финальных» сценария управления развитием ИИ

По данным The Information, генеральный директор OpenAI Сэм Олтман представил сотрудникам три внутренних сценария управления продвинутым ИИ: международный надзор в духе МАГАТЭ для инспекций и мониторинга вычислительных ресурсов; «план Демиса», похожий на CERN, при котором ведущие лаборатории объединяются или работают под общей структурой; и «план Эльезера», когда одна компания получает доминирующую экономическую власть и может ограничивать доступ к вычислениям других. В отчёте говорится, что OpenAI планирует в течение года выбрать путь, пытаясь одновременно не отстать от конкурентов и учитывая внутреннее и политическое давление.

7.0

RESEARCH · 1 ИСТОЧН. · The Decoder

Ник Каммарата (Goodfire) утверждает, что нейросети в основном интерпретируемы в новом эссе

В эссе «Neural Networks Are Already Clean» исследователь Goodfire Ник Каммарата переосмысливает примеры полиcемантических нейронов и утверждает, что большинство активаций нейронов можно понять с помощью масштабного автоматизированного анализа: в Qwen3-32B около 90% «полюсов» нейронов имеют одну основную функцию, 2–4% остаются необъяснёнными. Работа вызвала восторг у некоторых (включая постера OpenAI Roon) и призывы к осторожности от других (включая Neel Nanda); Goodfire сообщает о похожих наблюдениях в более крупных моделях, но требуется независимая проверка.

7.0

COMPANIES · 1 ИСТОЧН. · The Decoder

Некоторые сотрудники Anthropic якобы планируют купить удалённую землю на случай проблем с ИИ

Wall Street Journal сообщает, что некоторые из первых сотрудников Anthropic сообщили о намерении купить землю в отдалённых районах США, чтобы переехать туда «если с ИИ что‑то пойдёт не так». В материале связывают такие планы с субкультурой, близкой к эффективному альтруизму, и с сетями «думеров», которые давно обсуждают экстремальные сценарии на случай катастрофы.

5.0

COMPANIES · 1 ИСТОЧН. · The Decoder

Исследователь Google DeepMind Роберт О’Каллахан уходит, называет приближающийся СИ ‘непозволительным’

Технический эксперт Google DeepMind в Новой Зеландии Роберт О’Каллахан, работавший над инструментами проектирования чипов, ускорявшими и удешевлявшими ИИ, ушёл в отставку, заявив, что темпы развития ИИ «слишком высоки», и назвав стремление к сверхинтеллекту в ближайшем будущем «непозволительным». Он перечислил риски — когнитивная капитуляция, психоз, одиночество, концентрация власти, экономические и кибербезопасностные угрозы и отсутствие подотчётности — и дал ссылку на эссе Элиезера Юдковского и Нейта Соарса «If Anyone Builds It», не подтверждая полностью его выводы.

5.0