ИССЛЕДОВАНИЕ · RESEARCH · #1338
За пределами коллапса мод: GFlowNets для генерации разнообразных синтетических экспертных диалогов
В препринте на arXiv (2609.38359v1) предлагается применять Generative Flow Networks (GFlowNets) для генерации разнообразных и качественных синтетических экспертных диалогов путём обучения латентной структуры диалогов с использованием гауссовой смеси по признакам взаимодействия. На примерах диалогов в областях репетиторства и эмоциональной поддержки метод, по утверждению авторов, обеспечивает лучшую точность, покрытие мод и аутентичность по сравнению с RL и end-to-end LLM-базами без копирования обучающих данных, а классификаторы, обученные на этих синтетических диалогах, дают более сильный сигнал на трёх задачах предсказания исходов.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В препринте на arXiv (2609.38359v1) предлагается применять Generative Flow Networks (GFlowNets) для генерации разнообразных и качественных синтетических экспертных диалогов путём обучения латентной структуры диалогов с использованием гауссовой смеси по признакам взаимодействия.
- На примерах диалогов в областях репетиторства и эмоциональной поддержки метод, по утверждению авторов, обеспечивает лучшую точность, покрытие мод и аутентичность по сравнению с RL и end-to-end LLM-базами без копирования обучающих данных, а классификаторы, обученные на этих синтетических диалогах, дают более сильный сигнал на трёх задачах предсказания исходов.
- Если результаты подтвердятся, синтез на основе GFlowNets может уменьшить коллапс мод и сгенерировать более репрезентативные синтетические диалоги, улучшая обучение моделей без запоминания примеров.
ПОЧЕМУ ЭТО ВАЖНО
Если результаты подтвердятся, синтез на основе GFlowNets может уменьшить коллапс мод и сгенерировать более репрезентативные синтетические диалоги, улучшая обучение моделей без запоминания примеров.