Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #11944

MXFP8

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

3

MODELS · 2 ИСТОЧН. · Hugging Face · The Decoder

Thinking Machines Lab выпускает Inkling 2 Mini — зацикленная MoE-модель для локального использования

Inkling 2 Mini — новая мультимодальная зацикленная трансформер‑MoE-модель от Thinking Machines Lab (~26B физических параметров, ~3B активных на токен), которая повторно использует 24 физических слоя в трёх проходах, чтобы имитировать более глубокую архитектуру; поддерживает контекст до 1M токенов, текст и изображения, веса экспертов в NVFP4/MXFP8 и включает DSpark‑drafter; также выпущен исследовательский чекпоинт с переменным числом проходов. Модель поставляется для локального и датацентрового инференса с поддержкой transformers, llama.cpp, MLX и SGLang и по заявлению лидирует в ряде бенчмарков в своём классе.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Статья оценивает квантование MXFP6/MXFP8 для R&R на AMD MI350X и сообщает измеренные ускорения GEMM

arXiv:2611.17501v1 содержит эмпирическую оценку MXFP8 и нативного 6-битного формата MXFP6 для промышленного инференса рекомендационных и ранжировочных моделей на AMD MI350X. Авторы сообщают об ускорениях GEMM-ядер по сравнению с FP16: 1,33–1,55× для MXFP8 и 1,73–1,99× для MXFP6 (до 2,90× на отдельных слоях), а также о приростах сквозной пропускной способности при выборочном применении MXFP6: 1,5–5,3% для одной производственной рекламной модели и 7,6–14,3% для другой, при сохранении строгого порога паритета NE в 0,01%.

7.0

MODELS · 1 ИСТОЧН. · Hugging Face

Olmo запускает Olmo-core 3 — открытую масштабируемую инфраструктуру обучения MoE

Olmo выпустила Olmo-core 3 — переработанный открытый фреймворк для обучения моделей с mixture-of-experts (MoE), рассчитанный на масштабирование до триллионных параметров при сохранении вычислительной эффективности. Стек переходит от FSDP к DDP, сочетает экспертную и конвейерную параллельность и другие оптимизации; по данным компании, на 47‑млрд MoE на восьми NVIDIA B300 пропускная способность выросла в 2,7×, а MXFP8 в тестах дал примерно +21% к скорости по сравнению с BF16.

7.0