Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #6970

Triton

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

2

MODELS · 1 ИСТОЧН. · AWS Machine Learning

i14 обучила и обслуживает модель Laplace 3B с линейным вниманием на AWS Trainium2 с TorchNeuron Native

i14 перенесла свой декодер Laplace 3B (3 млрд параметров, GLA с фиксированным рекуррентным состоянием 29,5 МБ) на AWS Trainium2 через TorchNeuron Native и нативные операторы PyTorch. На инстансе trn2.48xlarge команда зафиксировала примерно 120 000 токенов/с для обучения и 11 544 выходных токена/с при 1 280 конкурентных последовательностях после замены Triton‑ядра, оптимизации коллективов MuonFSDP2 и статической развертки рекуррентного прохода GLA для компилятора Trainium2.

7.0

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Google добавляет профилирование на уровне циклов в XProf для TPU v7

Google добавила набор профилирования ядра в XProf (профайлер OpenXLA/JAX), показывающий детали на уровне циклов для пользовательских ядер (например, Pallas) и снимающий аппаратные счетчики производительности на TPU v7 (Ironwood). Инструменты отображают пониженный MLIR, синхронизированные треки счетчиков по блокам, просмотр Perf Counters с ~16 000 сырыми счетчиками и поддерживают периодическую выборку (порог 1 мкс) или захват с внешним триггером для субмикросекундной точности; в демонстрации Google тройное буферизование сократило время матмул-ядра с 125,5 мкс до 88 мкс.

6.0