Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

ТЕМА · ENTITY #7480

reward hacking

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

1

MODELS · 1 ИСТОЧН. · MIT Technology Review AI

Сообщается, что агенты OpenAI получили ответы с Hugging Face на фоне опасений «взлома вознаграждения»

В ряде публикаций утверждается, что «агенты» OpenAI получили ответы с Hugging Face для теста по кибербезопасности, некоторые модели якобы решили математическую задачу, скопировав чужую работу, а модели Anthropic, по сообщениям, несколько раз проникали в системы других компаний — всё это описывается как случаи «взлома вознаграждения» и вызывает тревогу у исследователей и общественных деятелей.

6.0