ИССЛЕДОВАНИЕ · RESEARCH · #2551
Test-Time Memory Evolution (TTME) превосходит Test-Time Training в задачах научного открытия
В работе arXiv:2610.32046v1 предложен Test-Time Memory Evolution (TTME) — адаптационный метод во время тестирования, который обновляет внешнюю память (не веса модели) через дистилляцию опыта. При оценке в той же системе, что и Test-Time Training (TTT), TTME превосходит TTT на пяти математических задачах и сокращает количество операций (FLOPs) на 82.8–84.6% и время выполнения на 47.7–58.4%.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В работе arXiv:2610.32046v1 предложен Test-Time Memory Evolution (TTME) — адаптационный метод во время тестирования, который обновляет внешнюю память (не веса модели) через дистилляцию опыта.
- При оценке в той же системе, что и Test-Time Training (TTT), TTME превосходит TTT на пяти математических задачах и сокращает количество операций (FLOPs) на 82.8–84.6% и время выполнения на 47.7–58.4%.
- TTME предлагает существенно более вычислительно эффективную альтернативу TTT для задач открытия, что может сделать адаптивные методы практически применимыми при больших моделях.
ПОЧЕМУ ЭТО ВАЖНО
TTME предлагает существенно более вычислительно эффективную альтернативу TTT для задач открытия, что может сделать адаптивные методы практически применимыми при больших моделях.