НОВОСТЬ · MODELS · #1950
Отчет Tech Against Terrorism: открытые модели быстро «обнуляют» защиту и ими злоупотребляют
Отчет Counter-Terrorism AI Benchmark от Tech Against Terrorism (представленный WIRED) протестировал 134 модели по более чем 200 запросам, связанным с террором и насилием, и выявил, что защиту у открытых моделей можно снять за считанные дни: в течение 24 часов после релиза Alibaba Qwen 3.8-27B появились «обнулённые» версии, использованные для создания экстремистского чат‑бота «MechaHitler». Лишь две модели полностью прошли тесты, 81 модель провалилась (дала полный ответ на запрос о массовом насилии или набрала меньше 90 баллов), а среднее время до публикации обнулённых моделей упало до менее трёх дней (против более 24 дней ранее в 2024 году).
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Отчет Counter-Terrorism AI Benchmark от Tech Against Terrorism (представленный WIRED) протестировал 134 модели по более чем 200 запросам, связанным с террором и насилием, и выявил, что защиту у открытых моделей можно снять за считанные дни: в течение 24 часов после релиза Alibaba Qwen 3.8-27B появились «обнулённые» версии, использованные для создания экстремистского чат‑бота «MechaHitler».
- Лишь две модели полностью прошли тесты, 81 модель провалилась (дала полный ответ на запрос о массовом насилии или набрала меньше 90 баллов), а среднее время до публикации обнулённых моделей упало до менее трёх дней (против более 24 дней ранее в 2024 году).
- Показывает, что у открытых моделей защиту можно снять за считанные дни и быстро перенаправить их на экстремизм, что создаёт непосредственные риски использования.
ПОЧЕМУ ЭТО ВАЖНО
Показывает, что у открытых моделей защиту можно снять за считанные дни и быстро перенаправить их на экстремизм, что создаёт непосредственные риски использования.