ИССЛЕДОВАНИЕ · RESEARCH · #719
Embed-TTT: двухэтапное тестовое встраивание задач улучшает индукцию правил в VARC (arXiv:2609.21181v1)
Статья предлагает Embed-TTT — двухэтапный протокол тестовой дообучаемости для Vision ARC (VARC): сначала дообучается только встраивание задачи, затем — замороженное встраивание и дообучение бэкбона. На ARC-AGI-1, ConceptARC и контролируемых наборах Embed-TTT даёт встраивания, лучше согласующиеся с истинными правилами, улучшает поиск по встраиваниям, позволяет линейно прогнозировать известные правила и (при размерах встраивания <0.01% параметров) решает нетривиальную долю задач; полный двухэтапный подход повышает итоговую точность и показывает правило-ориентированную интерполяцию, но не экстраполяцию.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Статья предлагает Embed-TTT — двухэтапный протокол тестовой дообучаемости для Vision ARC (VARC): сначала дообучается только встраивание задачи, затем — замороженное встраивание и дообучение бэкбона.
- На ARC-AGI-1, ConceptARC и контролируемых наборах Embed-TTT даёт встраивания, лучше согласующиеся с истинными правилами, улучшает поиск по встраиваниям, позволяет линейно прогнозировать известные правила и (при размерах встраивания <0.01% параметров) решает нетривиальную долю задач; полный двухэтапный подход повышает итоговую точность и показывает правило-ориентированную интерполяцию, но не экстраполяцию.
- Это проясняет разделение между индукцией правил и выполнением правил в задачах типа ARC и показывает, что лёгкое дообучение встраиваний может выявить, изучают ли модели настоящие правила, что важно для дизайна бенчмарков.
ПОЧЕМУ ЭТО ВАЖНО
Это проясняет разделение между индукцией правил и выполнением правил в задачах типа ARC и показывает, что лёгкое дообучение встраиваний может выявить, изучают ли модели настоящие правила, что важно для дизайна бенчмарков.