О важности гейтинга: как гейтинг влияет на запоминание и обучение в контексте в SSM
Авторы теоретически и экспериментально демонстрируют, что гейтинговый механизм в state space models (SSM) часто приводит к решению через «запоминание в весах», задерживает или даже предотвращает сход к корректному обучению в контексте, но при этом иногда улучшает обобщение на более длинные последовательности. Статья анализирует, как гейтинг формирует динамику обучения и способность к обобщению SSM с линейным временем работы.