ИССЛЕДОВАНИЕ · RESEARCH · #1721
Представлена Normalizing Trajectory Models (NTM): метод генерации с немногими шагами и точной правдоподобием
Исследователи (Jiatao Gu и др.) предлагают Normalizing Trajectory Models (NTM), где каждый обратный шаг моделируется как условный нормализующий поток и обучается с точной вероятностью траектории. NTM объединяет мелкие обратимые блоки на каждом шаге с глубоким параллельным предиктором по траектории, может обучаться с нуля или инициализироваться из pretrained flow-matching моделей, и позволяет самодистилляцию, дающую качественные образцы за четыре шага на задачах text-to-image при сохранении точного правдоподобия траектории.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Исследователи (Jiatao Gu и др.) предлагают Normalizing Trajectory Models (NTM), где каждый обратный шаг моделируется как условный нормализующий поток и обучается с точной вероятностью траектории.
- NTM объединяет мелкие обратимые блоки на каждом шаге с глубоким параллельным предиктором по траектории, может обучаться с нуля или инициализироваться из pretrained flow-matching моделей, и позволяет самодистилляцию, дающую качественные образцы за четыре шага на задачах text-to-image при сохранении точного правдоподобия траектории.
- NTM важна тем, что обеспечивает быструю (несколько шагов) генерацию при сохранении обучения по точной функции правдоподобия, сочетая скорость с возможностью корректной оценки модели.
ПОЧЕМУ ЭТО ВАЖНО
NTM важна тем, что обеспечивает быструю (несколько шагов) генерацию при сохранении обучения по точной функции правдоподобия, сочетая скорость с возможностью корректной оценки модели.