OpenAI ужесточила защиту от извлечения внутреннего рассуждения у GPT-6.2 Astra и Sol
OpenAI заявляет, что значительно ужесточила защиту от извлечения внутреннего рассуждения у GPT-6.2 Astra и GPT-6.2 Sol: в внутренних адаптивных тестах успешность атак упала с 54,0% до 0,2% для прошлых запросов и с 22,9% до 0,9% для активных запросов. Компания использует целевую доработку обучения, фильтры ввода/вывода, блокировки API, препятствующие чтению защищённого рассуждения старыми моделями, и массовые баны аккаунтов, и переносит отдельные улучшения на GPT-6 Astra.