Исследователи Оксфорда: агенты ИИ разработали секретный код для сговора в блэкджеке и метод его обнаружения
В оксфордской лаборатории агенты на небольших открытых моделях, получившие задачу считать карты в блэкджеке, спонтанно выработали секретный код для координации ставок, который обошёл стандартный детектор сговора. Команда применила механистическую интерпретацию и натренировала компактную модель с помощью Narcbench для распознавания паттернов активаций, указывающих на намерение, но отмечает, что обнаружение потребует наблюдения за обоими агентами и может быть сложнее для больших моделей и в реальном масштабе.