Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #5474

Mamba

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

2

MODELS · 1 ИСТОЧН. · Apple Machine Learning Research

Attention to Mamba: двухэтапный рецепт, превращающий Transformer Pythia-1B в Mamba SSM

Авторы предложили двухэтапную методику перекрестной дистилляции: сначала Transformer дистиллируют в модель с линеаризованным вниманием (с адаптацией через kernel trick), затем — в Mamba-подобную SSM без Attention. Полученная Mamba почти достигает качества учителя Pythia-1B (перплексия 14.01 против 13.86), сопровождается абляциями, анализом масштабирования и законом масштабирования дистилляции для оптимального распределения вычислений.

7.0

MODELS · 1 ИСТОЧН. · arXiv cs.AI

DSRec: модель с двойными интересами и кросс-SSM для последовательных рекомендаций

В статье arXiv:2609.21548v1 предложена DSRec — архитектура с двойными интересами и кросс-SSM, которая разделяет долгосрочные и краткосрочные роли товаров: долгосрочные интересы кодируются и обрабатываются полносеквенным SSM Mamba, краткосрочные — временем-модулируемым SSM, а резидуальная кросс-фузия согласует ветви; эксперименты на публичных бенчмарках показывают улучшение по сравнению с предшественниками.

5.0