ИССЛЕДОВАНИЕ · RESEARCH · #492
Google DeepMind создал Институт DeepMind для изучения безопасности, управления и рисков, связанных с AGI
Google DeepMind основал Институт DeepMind (DMI) — междисциплинарную платформу для исследователей из Google DeepMind, Google и мирового научного сообщества, которая будет заниматься безопасностью, управлением и рисками искусственного общего интеллекта (AGI), включая кибератаки и потерю контроля. В качестве директоров названы Шейн Легг, Джеймс Маника и Демис Хассабис; в анонсе DeepMind также отмечает неопределённость в определении AGI и разные оценки сроков его появления.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Google DeepMind основал Институт DeepMind (DMI) — междисциплинарную платформу для исследователей из Google DeepMind, Google и мирового научного сообщества, которая будет заниматься безопасностью, управлением и рисками искусственного общего интеллекта (AGI), включая кибератаки и потерю контроля.
- В качестве директоров названы Шейн Легг, Джеймс Маника и Демис Хассабис; в анонсе DeepMind также отмечает неопределённость в определении AGI и разные оценки сроков его появления.
- Институт консолидирует междисциплинарные усилия DeepMind по формированию исследований, норм и политики в отношении AGI, что может повлиять на стандарты отрасли и общественные дискуссии о безопасности и сроках появления AGI.
ПОЧЕМУ ЭТО ВАЖНО
Институт консолидирует междисциплинарные усилия DeepMind по формированию исследований, норм и политики в отношении AGI, что может повлиять на стандарты отрасли и общественные дискуссии о безопасности и сроках появления AGI.
ИСТОЧНИКИ И ХРОНОЛОГИЯ
2Google and Google DeepMind researchers launched the DeepMind Institute on Wednesday to advance the conversation around artificial general intelligence. The institute lists DeepMind co-founder Shane Legg, Google executive James Manyika, and Google DeepMind chair Demis Hassabis as directors, with Legg serving as managing editor. The new institute aims to surface differing views between Google, Google DeepMind, and the…
Google Deepmind has founded the Deepmind Institute (DMI), a platform for interdisciplinary research and debate around artificial general intelligence (AGI). The institute brings together researchers from Google Deepmind, Google, and the global scientific community to tackle questions about safety, governance, and risks like cyberattacks or loss of control. The answers shouldn't come from technologists alone but also …
AI models think out loud today, but Google Deepmind says that transparency is at risk. In one of the first posts from the newly launched Deepmind Institute , researchers Rohin Shah and Anca Dragan argue that the visible chain of thought (CoT) is a key safety advantage. Because models write out their intermediate steps in plain language, researchers can spot whether they're deceiving or developing problematic plans . …