MLX позволяет запускать Muse Spark Open (816B) локально и на нескольких Mac Studio
Фреймворк MLX получил поддержку Apple Silicon и показал запуск фронтирных LLM локально и в распределённой конфигурации на Mac Studio. С последним релизом MLX и RDMA поверх Thunderbolt кластер из четырёх Mac Studio запускает Muse Spark Open (816B, MoE, NVFP4) со скоростью более 36 токенов/с; более компактные модели (Qwen 3.8 и Mistral Medium 3.5) помещаются на одном Mac Studio с 512 ГБ. Бенчмарки через mlx_lm.benchmark показывают до 4.6× ускорения TTFT и примерно 1.6× прирост токенов/с на M5 Ultra против M3 Ultra, с пиковым энергопотреблением около 200–300 Вт.