Статья на arXiv: «The Harness as the Only Mutable Surface» — допускная защёлка для самоэволюции агентов LLM в кредитных конвейерах

КЛЮЧЕВЫЕ ТЕЗИСЫ

1. Авторы утверждают, что правомочность проверки самоизменяющихся агентов LLM возможна только при ограничении изменений рантайм‑«жгута» (инструкции, логика вызова инструментов, композиция примитивов), при фиксированных весах модели, и предлагают двойную петлю с одной допускной защёлкой, записывающей хеш‑цепочку перед деплоем.
2. В симуляции (симулированный агент и предложитель с семенами) по трем семействам переинтерпретации и 10 семенам каждая, защёлка пропустила 144 из 7 449 кандидатов и не ухудшила ошибку на отложенной истории, тогда как немодерируемая проверка пропустила 309 вредоносных изменений и оставила пропуски флагов >10% в 49 из 90 запусков; при оценке на метках до сдвига защёлка отклонила все кандидаты, а при высоких структурных сдвигах её фиксированная толерантность иногда блокировала корректные замены.
3. Это важно, потому что предложен измеримый механизм ограничения агентной самоизмениваемости в кредитных конвейерах и показана связь с регуляторными рамками (EU AI Act), при этом отмечены пробелы в американском руководстве.