ИССЛЕДОВАНИЕ · RESEARCH · #1112
TGL-NSGA-II: руководство учителя для малофидельного NAS в TinyML (arXiv:2609.30553v1)
В работе arXiv:2609.30553v1 предложен TGL-NSGA-II — малофидельная схема для NAS в TinyML: предварительно обученный «учитель» стратифицирует примеры, кандидаты проходят короткую KD-Lite‑дистилляцию и оцениваются совместно с гауссовским суррогатом. Авторы сообщают улучшенные показатели ранжирования (Kendall-τ 0.74 и 0.62 для распознавания ключевых слов и птичьих голосов), снижение дисперсии прокси‑оценок на 41%, лучшие многокритериальные метрики при ограниченном бюджете и ускорение в 2.2× по сравнению с полным NSGA-II, отмечая при этом, что гарантии касаются только оценок на уровне популяции и не доказывают сходимость эволюции.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В работе arXiv:2609.30553v1 предложен TGL-NSGA-II — малофидельная схема для NAS в TinyML: предварительно обученный «учитель» стратифицирует примеры, кандидаты проходят короткую KD-Lite‑дистилляцию и оцениваются совместно с гауссовским суррогатом.
- Авторы сообщают улучшенные показатели ранжирования (Kendall-τ 0.74 и 0.62 для распознавания ключевых слов и птичьих голосов), снижение дисперсии прокси‑оценок на 41%, лучшие многокритериальные метрики при ограниченном бюджете и ускорение в 2.2× по сравнению с полным NSGA-II, отмечая при этом, что гарантии касаются только оценок на уровне популяции и не доказывают сходимость эволюции.
- Предлагает анализируемый метод малофидельной оценки с участием «учителя», который повышает надёжность ранжирования и ускоряет эволюционный NAS для TinyML при ограниченном бюджете оценок.
ПОЧЕМУ ЭТО ВАЖНО
Предлагает анализируемый метод малофидельной оценки с участием «учителя», который повышает надёжность ранжирования и ускоряет эволюционный NAS для TinyML при ограниченном бюджете оценок.