Tech Meridian ← К ЛЕНТЕ
PROМОЙ MERIDIAN EN

ИССЛЕДОВАНИЕ · RESEARCH · #1216

Palisade Research опубликовала интервью, в которых специалисты по ИИ предупреждают, что суперинтеллект может угрожать человечеству

Palisade Research опубликовала серию интервью на frominside.ai с нынешними и бывшими сотрудниками OpenAI, Google DeepMind и Anthropic. В нескольких выступлениях — в том числе у Джеффри Ирвинга, Нила Нанды и Дэниела Кокотайло — прозвучали публичные предупреждения о высокой вероятности вымирания человечества из‑за будущего суперинтеллекта и обсуждения того, уменьшает ли текущая работа эти риски.

КЛЮЧЕВЫЕ ТЕЗИСЫ

  1. Palisade Research опубликовала серию интервью на frominside.ai с нынешними и бывшими сотрудниками OpenAI, Google DeepMind и Anthropic.
  2. В нескольких выступлениях — в том числе у Джеффри Ирвинга, Нила Нанды и Дэниела Кокотайло — прозвучали публичные предупреждения о высокой вероятности вымирания человечества из‑за будущего суперинтеллекта и обсуждения того, уменьшает ли текущая работа эти риски.
  3. Эти интервью отражают растущую обеспокоенность среди специалистов по ИИ относительно экзистенциальных рисков и могут повлиять на общественные дискуссии, научные приоритеты и политику.

ПОЧЕМУ ЭТО ВАЖНО

Эти интервью отражают растущую обеспокоенность среди специалистов по ИИ относительно экзистенциальных рисков и могут повлиять на общественные дискуссии, научные приоритеты и политику.

ИСТОЧНИКИ И ХРОНОЛОГИЯ

1
01
THE VERGE AI НЕЗАВИСИМОЕ МЕДИА
AI researchers put out videos saying superintelligence is ‘exactly as dangerous as it sounds’

A series of videos from people inside the industry building AI technology echoed some of the ‘doomer’ warnings others have sounded recently. “The chance of human extinction is about a coin flip, in my view,” Geoffrey Irving, a former OpenAI and Google DeepMind employee, said in a new interview. It’s one of a dozen interviews with AI researchers, including current and former employees at OpenAI, Google, and Anthropi…

↗