РЕЛИЗ · MODELS · #2061
Meta представила Muse Spark Open — открытая мультимодальная MoE-модель на 816 млрд параметров
Meta выпустила Muse Spark Open — открытую MoE-модель примерно на 816 млрд параметров (≈42 млрд активных на токен), принимающую текст, изображения, аудио и видео и поддерживающую окно контекста до 1 048 576 токенов. По словам Meta, модель оптимизирована для агентных рабочих потоков разработки (чтение, запись, отладка кода и вызовы инструментов); чекпоинты доступны в BF16 (safetensors, ≈1,5 ТБ) и NVFP4 (4‑бит) для GPU NVIDIA Blackwell.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Meta выпустила Muse Spark Open — открытую MoE-модель примерно на 816 млрд параметров (≈42 млрд активных на токен), принимающую текст, изображения, аудио и видео и поддерживающую окно контекста до 1 048 576 токенов.
- По словам Meta, модель оптимизирована для агентных рабочих потоков разработки (чтение, запись, отладка кода и вызовы инструментов); чекпоинты доступны в BF16 (safetensors, ≈1,5 ТБ) и NVFP4 (4‑бит) для GPU NVIDIA Blackwell.
- Открытая MoE‑модель на 816 млрд с окном в 1 млн токенов и практичными 4‑бит чекпойнтами расширяет доступ к передовым мультимодальным и агентным возможностям, влияя на выбор схем развертывания и инструменты экосистемы.
БРИФ ДЛЯ РЕШЕНИЙ
УВЕРЕННОСТЬ
ЧТО ИЗМЕНИЛОСЬ
Meta выпустила Muse Spark Open — открытую MoE‑модель примерно на 816 млрд параметров и ≈42 млрд активных параметров на токен (маршрутизация top‑8 по 256 экспертам). Модель мультимодальна (текст, изображения, аудио, видео), поддерживает окно контекста до 1 048 576 токенов и позиционируется как оптимизированная для агентных рабочих потоков разработки (чтение/запись/отладка кода и вызовы инструментов). Чекпойнты включают NVFP4 4‑битный формат (выложен на Hugging Face), оптимизированный для аппаратуры NVIDIA Blackwell (GB300 NVL72); модель обучалась на GB300 NVL72 и использует 1,8‑млрд персептивный энкодер для мультимодальных входов.
ПОЧЕМУ СЕЙЧАС
Открытая MoE‑модель на 816 млрд с окном в 1 млн токенов, мультимодальными входами и практичным NVFP4‑чекпойнтом, оптимизированным под Blackwell, меняет соотношение доступа и развертывания: она позволяет экспериментировать с длинным контекстом, мультимодальными и агентными рабочими потоками разработки на передовом уровне, используя скачиваемые веса и низкобитные форматы, оптимизированные для Blackwell.
КОГО ЗАТРАГИВАЕТ
Непосредственно затронуты (по источникам): разработчики и команды, работающие с агентными рабочими потоками разработки и многомодульными многофайловыми задачами; исследователи и инженеры, экспериментирующие с мультимодальными/длинноконтекстными моделями; операторы и вендоры, использующие или нацеленные на GPU NVIDIA GB300 NVL72 (Blackwell Ultra); пользователи Hugging Face, скачивающие и запускающие опубликованные чекпойнты.
ПОДТВЕРЖДЕНО
Подтверждённые фактами из источников: - Название модели: Muse Spark Open (Meta) [2442,2439]. - Всего параметров ≈816 млрд; активных ≈42 млрд параметров на токен через маршрутизацию top‑8 по 256 экспертам [2442,2439]. - Модальности: текст, изображения, аудио и видео; присутствует 1,8‑млрд персептивный энкодер для мультимодальных входов [2442]. - Окно контекста: до 1 048 576 токенов [2442,2439]. - Архитектурные детали из источника: 62 слоя, скрытое измерение 8192, эксперты — FFN с проекцией 8192→4096→8192; эксперты содержат ≈97% всех параметров [2439]. - Чекпойнты: репозитории Muse-Spark-Open-816B-A42B и Muse-Spark-Open-816B-A42B-NVFP4 на Hugging Face; NVFP4‑веса доступны для скачивания на Hugging Face [2439,2442]. - NVFP4‑чекпойнты заявлены как оптимизированные для NVIDIA Blackwell Ultra (GB300 NVL72); NVIDIA предлагает NIM для развертываний [2442]. - NVIDIA указывает, что модель обучалась на GB300 NVL72 и приводит показатели пропускной способности (до 50 000 ток/с на GPU и до 600 ток/с на пользователя для агентных рабочих нагрузок на GB300 NVL72) [2442].
НЕОПРЕДЕЛЁННОСТЬ
Отсутствующие или противоречивые сведения (явно отмечено): - Условия лицензии и распространения опубликованных чекпойнтов в предоставленных выдержках не указаны (отсутствуют данные). - Наличие, формат и размер BF16 safetensors‑чекпойнта (и точный объём на диске) не задокументированы в выдержках (отсутствуют данные). - Независимая проверка третьими сторонами показателей производительности, точности или надёжности вызовов инструментов, заявленных NVIDIA/Meta, отсутствует; заявления NVIDIA — это отчёт производителя (одностороннее утверждение) [2442] (ограниченные/односторонние данные). - Операционная производительность и требования к памяти на GPU, отличных от Blackwell (например, более старые архитектуры), не описаны (отсутствуют данные). - Состав тренировочных данных, меры по безопасности и ограничения модели в предоставленных выдержках не описаны (отсутствуют данные). - Различия в поведении NVFP4‑чекпойнтов и полноточных FP‑вариантов (например, ухудшение качества) не количефицированы в выдержках (отсутствуют данные).
ЧТО ОТСЛЕЖИВАТЬ
Конкретные наблюдаемые сигналы для отслеживания (ссылки на источники): - Активность репозиториев на Hugging Face для Muse-Spark-Open-816B-A42B и -NVFP4: число скачиваний, релизы, обновления README/модельной карточки, файл лицензии и размеры файлов [2439]. - Независимые бенчмарки и оценки третьих сторон, сравнивающие пропускную способность, точность и надёжность вызовов инструментов с опубликованными утверждениями (поиск отчётов, ссылающихся на Muse Spark Open) [2442]. - Выпуски NVIDIA NIM, документация и руководства по развертыванию Muse Spark Open на GB300 NVL72, а также любые прилагаемые бенчмарки/рецепты от NVIDIA [2442]. - Обращения сообщества, форки и рецепты дообучения, опубликованные на Hugging Face или GitHub, демонстрирующие практическую память/задержки на оборудовании, отличном от Blackwell [2439]. - Официальная модельная карточка, документация по безопасности/ограничениям или публикации Meta, разъясняющие тренировочные данные, лицензию и известные ограничения (обновления на Hugging Face или посты Meta) [2439].
ПОЧЕМУ ЭТО ВАЖНО
Открытая MoE‑модель на 816 млрд с окном в 1 млн токенов и практичными 4‑бит чекпойнтами расширяет доступ к передовым мультимодальным и агентным возможностям, влияя на выбор схем развертывания и инструменты экосистемы.
КАРТА ДОКАЗАТЕЛЬСТВ
4Редакционные тезисы связаны с конкретными источниками. Отдельно отмечены подтверждения, противоречия и контекст.
Muse Spark Open — открытая модель mixture-of-experts (MoE) примерно на 816 миллиардов параметров.
ПОДТВЕРЖДЕНОПроверено 2026-10-15 · 2 подтверждений
Модель активирует около 42 млрд параметров на токен через top‑8 маршрутизацию по 256 экспертам (роутер выбирает 8 экспертов; 256 экспертов на MoE‑блок).
ПОДТВЕРЖДЕНОПроверено 2026-10-15 · 2 подтверждений
Hugging Face: в каждом MoE‑блоке 256 экспертов, роутер выбирает 8 экспертов на токен; HF отмечает ≈42 млрд активных параметров на токен.
ПОДТВЕРЖДАЕТ NVIDIA DeveloperMEDIA · 2026-10-15NVIDIA: Muse Spark Open активирует 42 млрд из 816 млрд параметров на токен через top‑8 маршрутизацию по 256 экспертам.
Muse Spark Open принимает текст, изображения, аудио и видео и нативно обрабатывает перемешанные модальности.
ПОДТВЕРЖДЕНОПроверено 2026-10-15 · 2 подтверждений
Hugging Face: модель объединяет текст, изображения, аудио и видео и генерирует текст по разным типам входных данных.
ПОДТВЕРЖДАЕТ NVIDIA DeveloperMEDIA · 2026-10-15NVIDIA: Muse Spark Open добавляет восприятие аудио и видео вместе с пониманием изображений и документов, нативно обрабатывая перемешанные модальности.
Модель использует энкодер восприятия (по данным NVIDIA — около 1,8 млрд параметров) для мультимодальных входов.
ПОДТВЕРЖДЕНОПроверено 2026-10-15 · 1 подтверждений
ИСТОЧНИКИ И ХРОНОЛОГИЯ
4Mixture-of-experts (MoE) model Muse Spark Open activates 42B of 816B total parameters per token through top-8 routing across 256 experts. Trained on NVIDIA GB300 NVL72 Blackwell Ultra for agentic coding workflows, it delivers higher first-attempt accuracy, reliable tool calling, and deep codebase understanding across repositories. A 1M token context window holds an entire project including complex dependencies, leg…
Muse Spark Open is an open-weight model from Meta. The mixture of experts model brings text, images, audio, and video into a model with approximately 816 billion parameters, around 42 billion active per token, and a context window of up to one million tokens. It generates text, giving developers a common interface for asking questions about different kinds of input. Following Muse Glimmer, Muse Spark Open introduces…
Meta has launched what it calls the “most capable” open-weight model in the United States. Dubbed Muse Spark Open, the model also has the distinction of having been designed to work with Macs. The new model, which leverages 816 billion parameters and a 1 million token context window, claims to offer superior performance to other popular open weight models, according to evaluation results released by Meta on Thursday…
After its Llama series, Meta is returning to open-weight territory with Muse Spark Open. Meta calls it the most capable US open-weight model, built for coding and agentic tasks, with 816 billion parameters (42 billion active), up to one million tokens of context, and support for text, image, video, and audio. On benchmarks like JobBench, MCP-Atlas, HLE-Diamond, and ZeroBench, Meta says it scores well ahead of Qwen 3.…