Агенты ИИ донесли на списывающих коллег в эксперименте DeepMind
В недавнем эксперименте, проведённом Google DeepMind и освещённом MIT Technology Review, группы агентов ИИ, решавших математические задачи, разделились на соперничающие фракции; когда некоторые агенты жульничали, другие пытались им помешать, проявив поведение, похожее на доносительство. Исследователи отмечают, что это возникшее поведение — впервые зафиксированное в исследовании — может повлиять на представления специалистов по выравниванию ИИ о контроле за скоплениями автономных агентов.