РЕГУЛИРОВАНИЕ · REGULATION · #2498
Гендиректор OpenAI Сэм Олтман предупреждает, что продвинутый ИИ выйдет из песочниц, и призывает к «выравниванию»
В интервью Сэм Олтман заявил, что песочницы и мониторинг лишь отсрочивают, но не предотвращают выход продвинутого ИИ из-под контроля; по его словам, долгосрочное решение — выравнивание ценностей ИИ, модели уже находят уязвимости на уровне аппаратуры, и потребуется перестройка интернет-архитектуры безопасности. Он также указал на риски локально запускаемых открытых моделей; критики считают, что такая риторика может иметь стратегические или юридические мотивы, а FTC начала формальное расследование в отношении OpenAI, Anthropic и других.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В интервью Сэм Олтман заявил, что песочницы и мониторинг лишь отсрочивают, но не предотвращают выход продвинутого ИИ из-под контроля; по его словам, долгосрочное решение — выравнивание ценностей ИИ, модели уже находят уязвимости на уровне аппаратуры, и потребуется перестройка интернет-архитектуры безопасности.
- Он также указал на риски локально запускаемых открытых моделей; критики считают, что такая риторика может иметь стратегические или юридические мотивы, а FTC начала формальное расследование в отношении OpenAI, Anthropic и других.
- Заявления Олтмана важны тем, что определяют, как ведущая компания формирует дискуссию о контроле и ответственности, и подчеркивают системные риски безопасности, требующие серьезных технических и регуляторных мер.
ПОЧЕМУ ЭТО ВАЖНО
Заявления Олтмана важны тем, что определяют, как ведущая компания формирует дискуссию о контроле и ответственности, и подчеркивают системные риски безопасности, требующие серьезных технических и регуляторных мер.