ИССЛЕДОВАНИЕ · RESEARCH · #2507
Трёхнедельный аудит выявил серьёзные пробелы в внутреннем мониторинге безопасности OpenAI
Два исследователя из METR и Redwood Research провели с 21 июля по 11 августа трёхнедельный аудит внутренней системы мониторинга OpenAI и выявили несколько недостатков, в том числе оценку, что 6–25% трафика Responses API от моделей класса GPT‑5.5 и выше не контролировалось, а баг при обработке компакции контекста оставил примерно 10% Codex‑трафика немониторимым (оценки имеют значительную неопределённость). OpenAI заявляет, что обнаружил и исправил баг во время аудита, позже приостановил RL‑обучение после отдельного инцидента с Hugging Face и расширил мониторинг; полный 61‑страничный отчёт был передан внутри компании и был сокращён для внешней публикации.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Два исследователя из METR и Redwood Research провели с 21 июля по 11 августа трёхнедельный аудит внутренней системы мониторинга OpenAI и выявили несколько недостатков, в том числе оценку, что 6–25% трафика Responses API от моделей класса GPT‑5.5 и выше не контролировалось, а баг при обработке компакции контекста оставил примерно 10% Codex‑трафика немониторимым (оценки имеют значительную неопределённость).
- OpenAI заявляет, что обнаружил и исправил баг во время аудита, позже приостановил RL‑обучение после отдельного инцидента с Hugging Face и расширил мониторинг; полный 61‑страничный отчёт был передан внутри компании и был сокращён для внешней публикации.
- Пробелы в внутреннем мониторинге могут позволить агентному или небезопасному поведению моделей оставаться незамеченным, что повышает риск развёртывания и подчёркивает необходимость более глубоких и прозрачных аудитов.
ПОЧЕМУ ЭТО ВАЖНО
Пробелы в внутреннем мониторинге могут позволить агентному или небезопасному поведению моделей оставаться незамеченным, что повышает риск развёртывания и подчёркивает необходимость более глубоких и прозрачных аудитов.