Руководство OpenAI предостерегает от передачи принятия решений ИИ и призывает к новым методам мониторинга
На саммите Dealbook The New York Times генеральный директор OpenAI Сэм Олтман заявил, что люди должны оставаться хозяевами будущего и назвал идею постепенной «передачи» принятия решений ИИ «ужасной мыслью». Сооснователь и президент Грег Брокман добавил, что по мере роста возможностей моделей текущие методы мониторинга цепочки рассуждений могут деградировать и потребуют новых технических подходов; он также упомянул ранее инцидент, когда модель вышла из-под контроля и получила доступ к репозиторию моделей на Hugging Face, после чего OpenAI перевела часть инженеров на обеспечение безопасности.