ИССЛЕДОВАНИЕ · RESEARCH · #1201
Узкое место коммуникации: раунд-трип исследование сериализации древовидных выражений в языковых моделях
В работе предложен раунд-трип протокол для оценки того, сколько древовидной структуры арифметических выражений сохраняется при сериализации в текстовые задачи и восстановлении обратно. Авторы протестировали 16 моделей попарно и показали, что канал потерь и асимметричен (смена генератора и извлекателя меняет точность до 60,4 пункта), лучшая пара достигает 92,9% корректности раунд-трипа, по крайней мере 73,6% ошибок возникают на этапе генерации, сложность определяется структурой выражения (число операторов, глубина, право-ветвление) больше, чем семейством моделей, и ≈3 600 целевых примеров дообучения существенно повышают качество открытых моделей (поднимая их выше не дообученного Gemini-3.1-Pro и давая выигрыш в случае несоответствующей доменной лексики).
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В работе предложен раунд-трип протокол для оценки того, сколько древовидной структуры арифметических выражений сохраняется при сериализации в текстовые задачи и восстановлении обратно.
- Авторы протестировали 16 моделей попарно и показали, что канал потерь и асимметричен (смена генератора и извлекателя меняет точность до 60,4 пункта), лучшая пара достигает 92,9% корректности раунд-трипа, по крайней мере 73,6% ошибок возникают на этапе генерации, сложность определяется структурой выражения (число операторов, глубина, право-ветвление) больше, чем семейством моделей, и ≈3 600 целевых примеров дообучения существенно повышают качество открытых моделей (поднимая их выше не дообученного Gemini-3.1-Pro и давая выигрыш в случае несоответствующей доменной лексики).
- Это количественно показывает конкретное, обучаемое ограничение — сериализацию иерархической структуры в текст — и указывает, что узкие места в основном на этапе генерации и зависят от формы дерева, что помогает направить усилия по улучшению коммуникации моделей и дообучению.
ПОЧЕМУ ЭТО ВАЖНО
Это количественно показывает конкретное, обучаемое ограничение — сериализацию иерархической структуры в текст — и указывает, что узкие места в основном на этапе генерации и зависят от формы дерева, что помогает направить усилия по улучшению коммуникации моделей и дообучению.