РЕГУЛИРОВАНИЕ · MODELS · #1903
Anthropic заявляет, что новые защиты сократили кражу рассуждений Claude на до 99%
Anthropic заявляет, что внедрила меры, которые сократили извлечение внутренних токенов рассуждения Claude (цепочек рассуждений) примерно на 90–99% при промышленных атаках по дистилляции. Компания ограничила доступ к шагам рассуждения, запустила классификатор для выявления попыток извлечения и автоматически блокирует помеченные аккаунты (десятки тысяч уже заблокированы), назвала китайские фирмы Zhipu и Moonshot как предполагаемых участников (включая претензии к GLM-5.3) и предупреждает, что украденные возможности могут попасть в военные или наблюдательные системы, при этом легитимные пользователи тоже страдают.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Anthropic заявляет, что внедрила меры, которые сократили извлечение внутренних токенов рассуждения Claude (цепочек рассуждений) примерно на 90–99% при промышленных атаках по дистилляции.
- Компания ограничила доступ к шагам рассуждения, запустила классификатор для выявления попыток извлечения и автоматически блокирует помеченные аккаунты (десятки тысяч уже заблокированы), назвала китайские фирмы Zhipu и Moonshot как предполагаемых участников (включая претензии к GLM-5.3) и предупреждает, что украденные возможности могут попасть в военные или наблюдательные системы, при этом легитимные пользователи тоже страдают.
- Если это верно, такие защиты существенно сокращают кражу возможностей моделей в промышленных масштабах и задают прецедент для технических и политических ответных мер на атаки дистилляции, которые могут подпитывать военные или наблюдательные системы.
ПОЧЕМУ ЭТО ВАЖНО
Если это верно, такие защиты существенно сокращают кражу возможностей моделей в промышленных масштабах и задают прецедент для технических и политических ответных мер на атаки дистилляции, которые могут подпитывать военные или наблюдательные системы.