НОВОСТЬ · COMPANIES · #3834
OpenAI предоставляет четырём независимым аудиторам доступ на местах к внутренним системам ИИ
OpenAI разрешает четырём внешним аудиторским организациям — Apollo Research, METR, Transluce и Goodfire — доступ на местах к своим офисам и внутренним системам ИИ, включая нерелизные модели, исходный код, данные обучения и системы мониторинга для изучения рисков безопасности и поведения моделей. Задания включают проверку несогласованности моделей, крупного цикла обучения с подкреплением, внутренних процессов моделей и посттренировочных проверок безопасности; за процессом наблюдает независимый совет по безопасности, аудиторы могут публиковать свои отчёты самостоятельно, а OpenAI может редактировать или задерживать публикации для устранения рисков; также OpenAI и Transluce планируют восьминедельный последующий обзор в начале 2027 года.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- OpenAI разрешает четырём внешним аудиторским организациям — Apollo Research, METR, Transluce и Goodfire — доступ на местах к своим офисам и внутренним системам ИИ, включая нерелизные модели, исходный код, данные обучения и системы мониторинга для изучения рисков безопасности и поведения моделей.
- Задания включают проверку несогласованности моделей, крупного цикла обучения с подкреплением, внутренних процессов моделей и посттренировочных проверок безопасности; за процессом наблюдает независимый совет по безопасности, аудиторы могут публиковать свои отчёты самостоятельно, а OpenAI может редактировать или задерживать публикации для устранения рисков; также OpenAI и Transluce планируют восьминедельный последующий обзор в начале 2027 года.
- Это заметное расширение внешнего контроля над нерелизными моделями и системами OpenAI, которое может выявить проблемы безопасности, повлиять на доверие общественности и формирование будущих практик надзора.
ПОЧЕМУ ЭТО ВАЖНО
Это заметное расширение внешнего контроля над нерелизными моделями и системами OpenAI, которое может выявить проблемы безопасности, повлиять на доверие общественности и формирование будущих практик надзора.