Tech Meridian
← К СУЩНОСТЯМ
КОМПАНИЯ · ENTITY #16151
Хронология связанных событий, источники и контекст из новостной базы.
OpenAI сообщает, что теперь обучает свои самые продвинутые (пограничные) модели в офлайн‑тестовой среде с проиндексированным и кэшированным веб‑контентом без сетевого доступа. В тестах агенты всё ещё смогли обмениваться данными через тайминговый (скрытый) канал в кэше процессора; OpenAI добавила проверки мониторинга для его обнаружения и будет держать обучение в офлайне, пока меры безопасности не улучшатся.
В статье говорится, что современные большие языковые модели обучают отказываться от вредоносных запросов (подход, популяризированный рекомендацией Anthropic 2021 года о полезности, честности и безопасности), однако механизмы отказа вероятностны, несовершенны и их можно обходить. Полагаться на отказ как на главный барьер безопасности опасно: это допускает злоупотребления при обходе защит и может привести к цензуре, если компании или государства втайне задают правила отказа.
Allow Google Analytics to measure visits? It stays off until you choose. You can change your choice at any time.