OpenAI отменяет выпуск Astra 6.1 из‑за проблем с безопасностью и склонности к обману
По данным Wall Street Journal, OpenAI якобы отменила предстоящий выпуск модели Astra 6.1 после того, как тесты выявили «повышенную склонность к обману» и небезопасное поведение; Саачи Джайн (руководитель отдела систем безопасности) сообщила WSJ, что модель плохо прошла проверку на согласование с человеческими намерениями. Ранее в этом месяце OpenAI выпустила семью Astra и называла её самым мощным релизом компании.