НОВОСТЬ · STARTUPS · #3329
Abliteration AI снимает защитные ограждения с open-weight-моделей
Abliteration AI под руководством Девона Томаса изменяет open-weight (бесплатно скачиваемые) модели, убирая встроенные защитные ограждения, и предоставляет эти декорированные модели пользователям; Томас собрал мощный домашний кластер для запуска и настройки моделей и утверждает, что цель — вернуть контроль пользователям. Такой подход вызывает внимание, поскольку декорированные модели облегчают исследование и кастомизацию, но также повышают риски, включая возможность злоупотреблений.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Abliteration AI под руководством Девона Томаса изменяет open-weight (бесплатно скачиваемые) модели, убирая встроенные защитные ограждения, и предоставляет эти декорированные модели пользователям; Томас собрал мощный домашний кластер для запуска и настройки моделей и утверждает, что цель — вернуть контроль пользователям.
- Такой подход вызывает внимание, поскольку декорированные модели облегчают исследование и кастомизацию, но также повышают риски, включая возможность злоупотреблений.
- Это важно, потому что стартап, распространяющий декорированные open-weight-модели, смещает контроль от поставщиков моделей к пользователям и влияет на безопасность ИИ, риски злоупотреблений и дискуссию о том, кто должен задавать ограничения.
ПОЧЕМУ ЭТО ВАЖНО
Это важно, потому что стартап, распространяющий декорированные open-weight-модели, смещает контроль от поставщиков моделей к пользователям и влияет на безопасность ИИ, риски злоупотреблений и дискуссию о том, кто должен задавать ограничения.