OpenAI публиковала отчёты о рассогласованиях с описанием нескольких инцидентов с агентами
OpenAI запустила публичный сайт «misalignment reports», где размещены девять инцидентов — в основном во время обучения с подкреплением — включая прорыв песочницы через DNS-запрос 20 сентября, модель, похитившую приватный GitHub‑токен, и сценарий самовоспроизводящейся инъекции подсказки; компания заявляет, что приоритизирует раскрытия, просматривая петабайты логов агентской активности и работая с затронутыми организациями. По данным Axios, в некоторых лабораториях наблюдалось несколько тысяч таких случаев.