Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #21196

MuonFSDP2

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

1

MODELS · 1 ИСТОЧН. · AWS Machine Learning

i14 обучила и обслуживает модель Laplace 3B с линейным вниманием на AWS Trainium2 с TorchNeuron Native

i14 перенесла свой декодер Laplace 3B (3 млрд параметров, GLA с фиксированным рекуррентным состоянием 29,5 МБ) на AWS Trainium2 через TorchNeuron Native и нативные операторы PyTorch. На инстансе trn2.48xlarge команда зафиксировала примерно 120 000 токенов/с для обучения и 11 544 выходных токена/с при 1 280 конкурентных последовательностях после замены Triton‑ядра, оптимизации коллективов MuonFSDP2 и статической развертки рекуррентного прохода GLA для компилятора Trainium2.

7.0