НОВОСТЬ · COMPANIES · #2854
NVIDIA упаковывает Dynamo 1.4.2 в проверенные рецепты для Kubernetes с помощью AICR
Платформа NVIDIA DSX AI Factory включает Dynamo 1.4.2 и его зависимости кластера в воспроизводимые, проверяемые рецепты рантайма через NVIDIA AI Cluster Runtime (AICR). AICR фиксирует версии компонентов и требования к GPU/DR A, планированию, сетям и мониторингу, предлагает пятишаговый процесс (снимок кластера, генерация рецепта, рендер бандла, развёртывание через Helmfile/GitOps, валидация) и описывает варианты маршрутизации (TCP + ZMQ) с интеграцией через Gateway API/EPP; NATS теперь доступен по выбору.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Платформа NVIDIA DSX AI Factory включает Dynamo 1.4.2 и его зависимости кластера в воспроизводимые, проверяемые рецепты рантайма через NVIDIA AI Cluster Runtime (AICR).
- AICR фиксирует версии компонентов и требования к GPU/DR A, планированию, сетям и мониторингу, предлагает пятишаговый процесс (снимок кластера, генерация рецепта, рендер бандла, развёртывание через Helmfile/GitOps, валидация) и описывает варианты маршрутизации (TCP + ZMQ) с интеграцией через Gateway API/EPP; NATS теперь доступен по выбору.
- Это даёт командам платформы воспроизводимый и проверяемый путь развёртывания распределённого inference (Dynamo) на Kubernetes с зафиксированными версиями и проверками рантайма, снижая трудоёмкость интеграции.
ПОЧЕМУ ЭТО ВАЖНО
Это даёт командам платформы воспроизводимый и проверяемый путь развёртывания распределённого inference (Dynamo) на Kubernetes с зафиксированными версиями и проверками рантайма, снижая трудоёмкость интеграции.