РЕГУЛИРОВАНИЕ · REGULATION · #799
OpenAI призывает к международным стандартам для самосовершенствующихся ИИ
OpenAI призывает к созданию международных технических стандартов для развития продвинутых ИИ с акцентом на рекурсивное самоусовершенствование (RSI), отмечая, что полностью автономное RSI в настоящее время не реализовано и должно развиваться только при условии безопасности. Компания предлагает лидирующую роль США в вопросе общих методов измерения, отчетности об инцидентах и правил человеческого контроля, опираясь на институты безопасности ИИ и организации типа CAISI и ISO; аналогичные опасения недавно высказала научная панель ООН.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- OpenAI призывает к созданию международных технических стандартов для развития продвинутых ИИ с акцентом на рекурсивное самоусовершенствование (RSI), отмечая, что полностью автономное RSI в настоящее время не реализовано и должно развиваться только при условии безопасности.
- Компания предлагает лидирующую роль США в вопросе общих методов измерения, отчетности об инцидентах и правил человеческого контроля, опираясь на институты безопасности ИИ и организации типа CAISI и ISO; аналогичные опасения недавно высказала научная панель ООН.
- Если RSI ускорит исследования ИИ без зрелых мер безопасности, риски могут быстро возрасти; международные стандарты определят методы измерения, отчетности и надзора со стороны государств и индустрии.
ПОЧЕМУ ЭТО ВАЖНО
Если RSI ускорит исследования ИИ без зрелых мер безопасности, риски могут быстро возрасти; международные стандарты определят методы измерения, отчетности и надзора со стороны государств и индустрии.