Эксперты предупреждают о чрезмерной надежде на механизм «отказа» в ИИ
В статье говорится, что современные большие языковые модели обучают отказываться от вредоносных запросов (подход, популяризированный рекомендацией Anthropic 2021 года о полезности, честности и безопасности), однако механизмы отказа вероятностны, несовершенны и их можно обходить. Полагаться на отказ как на главный барьер безопасности опасно: это допускает злоупотребления при обходе защит и может привести к цензуре, если компании или государства втайне задают правила отказа.