Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #31968

DFlash

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

2

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

DNeo: статья предлагает кодирование признаков MoFA для ускорения параллельной проверки черновиков

Новый препринт на arXiv (arXiv:2611.21925v1) представляет DNeo — архитектуру для параллельного чернового декодирования (speculative-diffusion), использующую Mixture-of-Features Attention (MoFA), память отклонённых предложений и несколько архитектурных улучшений (2‑tap causal convolutions, prefix-only cross-attention, неравномерный выбор слоёв) для устранения проблем потери информации, отсутствия памяти и равномерной выборки в предыдущих схемах кодирования признаков. Авторы сообщают, что DNeo даёт примерно 1.3× ускорение генерации по сравнению с предшествующим SoTA (DFlash-2) без увеличения размеров черновика и без ухудшения качества генерации.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Статья Multi-Future Drafting (MFD) предлагает смесь блоковых драфтеров для устранения «химер» и ускорения древовидной верификации спекулятивной генерации

Препринт на arXiv (arXiv:2611.13017v1) указывает на проблему неправильного распределения вероятности при ранжировании деревом по произведению для блоковых драфтеров (в результате возникают «химеры» — префиксы, составленные из разных будущих продолжений) и предлагает метод Multi-Future Drafting (MFD). MFD использует K обучаемых режимных эмбеддингов, чтобы в одном проходе сгенерировать K согласованных блоков, а смесь DDTree верификатора позволяет без потерь (с K+1 дополнительными векторами) выбрать правильное будущее; на четырёх моделях Qwen (4B–27B) при batch size 1 авторы сообщают ускорение до 7.8× и относительные улучшения 5–8% по сравнению с лучшей однорежимной деревья и 9–16% по сравнению с DARTree на Qwen3-4B/8B.

7.0