ИССЛЕДОВАНИЕ · RESEARCH · #1260
DASA: синтетические непрерывные эмбеддинги для эффективного дообучения LLM (arXiv:2609.35868v1)
В статье предложена Desired-Update-Aligned Synthetic Data (DASA) — оптимизация непрерывных синтетических эмбеддингов с помощью активационно‑градиентной обратной связи от зафиксированной референтной модели, которые затем используются напрямую для дообучения. Эксперименты на шести моделях Llama и Qwen (1B–32B) по шести бенчмаркам показывают, что DASA в ряде конфигураций сравнима или превосходит дообучение на естественном языке, чаще лучше GRADMM и обеспечивает ускорение генерации в 3.6–4.9× при сопоставимом пиковом использовании GPU.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В статье предложена Desired-Update-Aligned Synthetic Data (DASA) — оптимизация непрерывных синтетических эмбеддингов с помощью активационно‑градиентной обратной связи от зафиксированной референтной модели, которые затем используются напрямую для дообучения.
- Эксперименты на шести моделях Llama и Qwen (1B–32B) по шести бенчмаркам показывают, что DASA в ряде конфигураций сравнима или превосходит дообучение на естественном языке, чаще лучше GRADMM и обеспечивает ускорение генерации в 3.6–4.9× при сопоставимом пиковом использовании GPU.
- Если результаты подтвердятся, DASA показывает, что для эффективного адаптирования моделью человечески понятный текст может быть не обязателен, что открывает путь к более быстрому, потенциально более приватному и целевому дообучению.
ПОЧЕМУ ЭТО ВАЖНО
Если результаты подтвердятся, DASA показывает, что для эффективного адаптирования моделью человечески понятный текст может быть не обязателен, что открывает путь к более быстрому, потенциально более приватному и целевому дообучению.