Minions: распределённое виртуальное GPU-облако на базе простаивающих Apple Silicon
В статье представлен Minions — система, объединяющая простаивающие GPU на устройствах macOS с Apple Silicon в динамическое распределённое виртуальное GPU-облако для масштабного инференса машинного обучения с поддержкой гибкого выполнения задач, отказоустойчивости и эффективного использования ресурсов, что позволяет командам использовать уже имеющееся оборудование вместо покупки дополнительных GPU. Работа упоминает сопутствующие инструменты для Apple Silicon (MLX, нейроускорители M5) и отдельные усилия по ускорению инференса на NVIDIA (ReDrafter).