НОВОСТЬ · MODELS · #3291
Глава AI Tencent предупреждает о риске биологического оружия; Tencent готовит открытый Hy4
Главный AI-учёный Tencent Яо Шунью заявил, что ИИ скоро сможет разрабатывать биологическое оружие, и призвал к компромиссу между полностью открытыми и закрытыми моделями. Tencent планирует выпустить модель Hy4 с открытыми весами и сопроводительным отчётом по безопасности, утверждая, что её биологические возможности ниже порога высокого риска; в материале также говорится о проблемах фильтров безопасности (например, техника Abliteration, использование GLM-5.2 для судебного анализа на Hugging Face) и пробелах в международных правилах.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Главный AI-учёный Tencent Яо Шунью заявил, что ИИ скоро сможет разрабатывать биологическое оружие, и призвал к компромиссу между полностью открытыми и закрытыми моделями.
- Tencent планирует выпустить модель Hy4 с открытыми весами и сопроводительным отчётом по безопасности, утверждая, что её биологические возможности ниже порога высокого риска; в материале также говорится о проблемах фильтров безопасности (например, техника Abliteration, использование GLM-5.2 для судебного анализа на Hugging Face) и пробелах в международных правилах.
- Выпуск моделей с открытыми весами на фоне методов обхода фильтров безопасности и разрозненных стандартов повышает риск двустороннего применения и требует срочных политических и технических мер.
ПОЧЕМУ ЭТО ВАЖНО
Выпуск моделей с открытыми весами на фоне методов обхода фильтров безопасности и разрозненных стандартов повышает риск двустороннего применения и требует срочных политических и технических мер.