Tech Meridian ← К ЛЕНТЕ
PROМОЙ MERIDIAN EN

РЕГУЛИРОВАНИЕ · MODELS · #4013

OpenAI ужесточила защиту от извлечения внутреннего рассуждения у GPT-6.2 Astra и Sol

OpenAI заявляет, что значительно ужесточила защиту от извлечения внутреннего рассуждения у GPT-6.2 Astra и GPT-6.2 Sol: в внутренних адаптивных тестах успешность атак упала с 54,0% до 0,2% для прошлых запросов и с 22,9% до 0,9% для активных запросов. Компания использует целевую доработку обучения, фильтры ввода/вывода, блокировки API, препятствующие чтению защищённого рассуждения старыми моделями, и массовые баны аккаунтов, и переносит отдельные улучшения на GPT-6 Astra.

КЛЮЧЕВЫЕ ТЕЗИСЫ

  1. OpenAI заявляет, что значительно ужесточила защиту от извлечения внутреннего рассуждения у GPT-6.2 Astra и GPT-6.2 Sol: в внутренних адаптивных тестах успешность атак упала с 54,0% до 0,2% для прошлых запросов и с 22,9% до 0,9% для активных запросов.
  2. Компания использует целевую доработку обучения, фильтры ввода/вывода, блокировки API, препятствующие чтению защищённого рассуждения старыми моделями, и массовые баны аккаунтов, и переносит отдельные улучшения на GPT-6 Astra.
  3. Снижает реальный риск, что злоумышленники извлекут внутреннее рассуждение из продвинутых моделей, уменьшая угрозы кражи модели и безопасности, и демонстрирует практические методы защиты.
MERIDIAN INTELLIGENCE

БРИФ ДЛЯ РЕШЕНИЙ

65/100
УВЕРЕННОСТЬ
01

ЧТО ИЗМЕНИЛОСЬ

OpenAI заявляет, что существенно ужесточила защиту у GPT-6.2 Astra и GPT-6.2 Sol, что снижает успешность извлечения защищённого внутреннего рассуждения; компания также публикует новые рекомендации по промптам и изменения в API для разработчиков.

02

ПОЧЕМУ СЕЙЧАС

OpenAI приводит значительное снижение показателей успешности атак в внутренних адаптивных тестах (с 54,0% до 0,2% для прошлых запросов и с 22,9% до 0,9% для активных запросов на Astra), что указывает на реальное снижение краткосрочного риска извлечения внутреннего рассуждения. Одновременно изменения в API и рекомендации по промптам меняют поведение моделей (они отвечают короче по умолчанию, редактирование истории беседы может отбрасывать ранние шаги рассуждения), поэтому разработчикам стоит пересмотреть интеграции при переходе на GPT-6.2.

03

КОГО ЗАТРАГИВАЕТ

Непосредственно затронуты по источникам: разработчики и интеграторы GPT-6.2 Astra и GPT-6.2 Sol (шаблоны промптов, поведение API), пользователи, чьи рабочие процессы зависят от истории беседы или стиля ответов модели, а также лица, пытающиеся извлечь внутреннее рассуждение (кампании злоумышленников, которые OpenAI утверждает, что сдерживает массовыми банами).

04

ПОДТВЕРЖДЕНО

- OpenAI сообщает, что ужесточила защиту у GPT-6.2 Astra и GPT-6.2 Sol. - В внутренних автоматизированных адаптивных тестах успешность атак на GPT-6.2 Astra снизилась: для прошлых запросов с 54,0% до 0,2%; для активных запросов с 22,9% до 0,9%. - Описанные защиты включают целевую доработку обучения, фильтры ввода/вывода для сообщений и вызовов инструментов, блокировки API, которые не позволяют старым моделям читать защищённое рассуждение, и массовые баны аккаунтов (тысячи—десятки тысяч в неделю). - OpenAI переносит отдельные улучшения в GPT-6 Astra. - OpenAI опубликовала новые советы по промптам и готовые шаблоны для GPT-6.2 Astra и Sol, чтобы исправить краткие ответы, ненужные вопросы для уточнения, практики кодирования и требование, чтобы итоговый ответ был самодостаточным; также изменено поведение API (редактирование истории беседы может отбрасывать раннее рассуждение; некоторые параметры, такие как "temperature" и "top_p", удалены).

05

НЕОПРЕДЕЛЁННОСТЬ

Недостатки или неясности в приведённых выдержках: - Независимая внешняя проверка внутренних адаптивных тестов OpenAI отсутствует (нет данных третьей стороны). (отсутствует) - Точные технические детали, охват и постоянство целевой доработки, фильтров и блокировок API описаны лишь на высоком уровне. (отсутствует) - Какая конкретно часть улучшений переносится в GPT-6 Astra и в какие сроки — не указано. (отсутствует) - Насколько эти защиты устойчивы к будущим или новым атакам дистилляции и адаптациям координированных злоумышленников — неясно. (отсутствует) - Точный оперативный эффект на стоимость токенов и качество ответов в реальных приложениях помимо указания, что редактирование истории может отбрасывать рассуждение, не описан количественно. (частично/неполно) - Точные числа и критерии при массовых банах аккаунтов кроме фразы «тысячи—десятки тысяч в неделю» не приведены. (частично) Эти вопросы в исходных фрагментах явно не разрешены.

06

ЧТО ОТСЛЕЖИВАТЬ

Конкретные наблюдаемые сигналы для мониторинга (в явной связи с выдержками): - Независимые ред-тиминг или сторонние тесты, публикующие показатели успешности атак против GPT-6.2 Astra и Sol (для подтверждения внутренних ASR-чисел OpenAI). - Примечания к выпускам или документация OpenAI с указанием, какие именно улучшения были перенесены в GPT-6 Astra и подробностями по поведению API/блокировок. - Использование и обсуждение в документации/форумах разработчиков новых шаблонов промптов и их эффектов на краткость ответов, самодостаточность итоговых ответов и шаблоны для кодирования. - Записи об изменениях API и техническая документация, подтверждающие семантику редактирования истории беседы, удаление параметров вроде "temperature" и "top_p" и заявленные влияния на учёт токенов и качество ответов. - Отчёты или раскрытия от OpenAI о масштабах банов аккаунтов и критериях их применения (для проверки заявленного масштаба банов). - Внешние отраслевые отчёты (например, заявления других провайдеров вроде Anthropic) о скоординированных ответах на атаки дистилляции для сравнительного контекста. Следите за этими сигналами в официальной документации, независимых аудитах и сообществах разработчиков.

ОСНОВАНО НА ИСТОЧНИКАХ The Decoder ↗The Decoder ↗

ПОЧЕМУ ЭТО ВАЖНО

Снижает реальный риск, что злоумышленники извлекут внутреннее рассуждение из продвинутых моделей, уменьшая угрозы кражи модели и безопасности, и демонстрирует практические методы защиты.

КАРТА ДОКАЗАТЕЛЬСТВ

4

Редакционные тезисы связаны с конкретными источниками. Отдельно отмечены подтверждения, противоречия и контекст.

OpenAI заявляет, что значительно ужесточила защиту от извлечения внутреннего рассуждения у GPT-6.2 Astra и GPT-6.2 Sol.

ПОДТВЕРЖДЕНО

Проверено 2026-11-21 · 1 подтверждений

В внутренних адаптивных/автоматизированных тестах OpenAI сообщает, что успешность атак для прошлых запросов упала с 54,0% на GPT-6 Astra до 0,2% на GPT-6.2 Astra, а для активных запросов — с 22,9% до 0,9%.

ПОДТВЕРЖДЕНО

Проверено 2026-11-21 · 1 подтверждений

OpenAI описывает меры защиты как сочетание целевой доработки обучения, фильтров ввода/вывода для сообщений и вызовов инструментов, блокировок API, предотвращающих чтение защищённого рассуждения старыми моделями, и массовых банов аккаунтов.

ПОДТВЕРЖДЕНО

Проверено 2026-11-21 · 1 подтверждений

ИСТОЧНИКИ И ХРОНОЛОГИЯ

1