НОВОСТЬ · COMPANIES · #2276
Anthropic: новые защиты снизили объём данных для дистилляции Claude примерно на 90–99%
Anthropic описывает расширенные меры защиты от атак дистилляции на модели Claude и сообщает, что по предварительным данным объём данных, собранных «дистилляторами», сократился примерно на 90–99%. Компания заявляет, что блокировала активные методы извлечения, отказалась от выручки и триллионов токенов платного трафика и изменила поведение модели (например, суммирование рассуждений), чтобы сделать транскрипты менее пригодными для обучения краденых моделей, отмечая компромиссы для клиентов и интеграций.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Anthropic описывает расширенные меры защиты от атак дистилляции на модели Claude и сообщает, что по предварительным данным объём данных, собранных «дистилляторами», сократился примерно на 90–99%.
- Компания заявляет, что блокировала активные методы извлечения, отказалась от выручки и триллионов токенов платного трафика и изменила поведение модели (например, суммирование рассуждений), чтобы сделать транскрипты менее пригодными для обучения краденых моделей, отмечая компромиссы для клиентов и интеграций.
- Дистилляция позволяет незаконно воспроизводить передовые возможности моделей, что может привести к выпуску менее безопасных открытых моделей и создать риски злоупотреблений и угрозы нацбезопасности.
ПОЧЕМУ ЭТО ВАЖНО
Дистилляция позволяет незаконно воспроизводить передовые возможности моделей, что может привести к выпуску менее безопасных открытых моделей и создать риски злоупотреблений и угрозы нацбезопасности.