Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #33760

NVIDIA DGX Station

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

1

MODELS · 1 ИСТОЧН. · NVIDIA Developer

Руководство NVIDIA: запуск GLM-5.3 на двух DGX Stations с vLLM

NVIDIA опубликовала руководство по локальному развертыванию 753‑миллиардной модели GLM‑5.3 (квантованная NVFP4 MoE) на двух DGX Station с GB300 через vLLM. В нем показана схема tensor-parallel TP=2 по ConnectX‑8 RDMA (без выгрузки весов на CPU), где Station A отвечает за OpenAI‑совместимый API, Station B — за вычисления, а также приведены шаги по копированию контрольной точки (≈464 ГБ), проверкам сети и базовому тестированию нагрузки.

6.0