Amazon SageMaker HyperPod

2026-10-20

MODELS · 1 ИСТОЧН. · AWS Machine Learning

GPT-OSS-20B дообучили для многоязычного рассуждения на Amazon SageMaker HyperPod

Команда дообучила модель GPT-OSS-20B на многоязычном датасете цепочек рассуждений (HuggingFaceH4/Multilingual-Thinking) с использованием SFT и GRPO на Amazon SageMaker HyperPod (EKS, LoRA, TRL/veRL, vLLM, Ray/KubeRay, Amazon FSx for Lustre). Итог: базовая модель почти всегда генерировала цепочки рассуждений на английском; SFT устраняет большую часть разрыва в поведении по языку, а GRPO даёт добавочный эффект лишь когда желаемое поведение уже встречается с ненулевой вероятностью.

6.0

2026-10-08

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Amazon представила референсную архитектуру для HyperPod на EKS с поддержкой многопользовательности

AWS описывает референсную архитектуру использования Amazon SageMaker HyperPod с Amazon EKS, позволяющую нескольким командам совместно использовать GPU‑кластеры при сохранении изоляции, справедливого распределения ресурсов и учёта затрат по командам. Решение использует AWS IAM Identity Center для аутентификации, отдельные домены SageMaker для команд и Kubernetes‑пространства имён для изоляции, HyperPod Task Governance для квотирования и HyperPod Observability для мониторинга.

6.0

2026-10-06

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Управление Amazon SageMaker HyperPod Spaces прямо из SageMaker Studio

AWS добавила поддержку управления SageMaker Spaces на кластерах HyperPod EKS через интерфейс SageMaker Studio, что позволяет дата‑сайентистам запускать JupyterLab или Code Editor и включать/останавливать Spaces без использования CLI. Администраторам нужно установить дополнение SageMaker Spaces на HyperPod, прикрепить необходимые IAM‑политики и включить per-user identity propagation для домена Studio.

6.0

2026-09-25

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Запуск пост‑обучения SkyRL (GRPO) для Qwen3‑VL‑8B на Amazon SageMaker HyperPod

Amazon показала запуск открытой библиотеки SkyRL на SageMaker HyperPod (EKS) для пост‑обучения визуально‑языковой модели Qwen3‑VL‑8B методом Group Relative Policy Optimization (GRPO). На HyperPod Ray‑кластере с общим хранилищем FSx решение повысило процент решения лабиринтов с 43,75% до более чем 95% на фиксированном наборе из 64 лабиринтов, сочетая vLLM‑инференс и FSDP‑шардинг политики с LoRA‑адаптерами.

6.0

2026-09-25

MODELS · 1 ИСТОЧН. · AWS Machine Learning

Amazon SageMaker HyperPod и Qumulo позволяют обучать модели между регионами без копирования данных

Amazon и Qumulo подтвердили архитектуру, в которой Amazon SageMaker HyperPod в сочетании с Cloud Native Qumulo (CNQ) и Qumulo Cloud Data Fabric (CDF) позволяет кластерам обучаться на едином наборе данных, расположенном в другом регионе AWS, без репликации данных. В тесте между us-east-2 (hub) и us-west-2 (spoke) при запуске LLaMA v3 (1,02 млрд параметров) на двух ml.p5.48xlarge-инстансах на кластер (16 H100 GPU) удалённый кластер после короткого прогрева NeuralCache достиг пропускной способности хаба (≈115–117 образцов/с) и почти полной загрузки GPU.

7.0

2026-09-10

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Amazon SageMaker HyperPod добавляет кеширование моделей для сокращения cold start при инференсе

Amazon SageMaker HyperPod теперь поддерживает кеширование моделей для инференса: веса моделей и контейнерные образы можно предварительно загрузить на локальное NVMe‑хранилище узлов кластера, чтобы поды читали их локально, а не скачивали по сети. AWS утверждает, что это сокращает cold start с десятков минут до секунд; в анонсе описано, как это работает и как включить.

7.0

2026-09-09

MODELS · 1 ИСТОЧН. · AWS Machine Learning

Развёртывание Qwen3.8-2.4T-A95B на Amazon SageMaker HyperPod с vLLM

AWS Machine Learning опубликовал пошаговую инструкцию по развёртыванию Qwen3.8-2.4T-A95B — открытой модели с 2,4 триллионами параметров — на Amazon SageMaker HyperPod с использованием vLLM. Руководство описывает подготовку кластера, NVFP4-квантизацию и создание совместимого с OpenAI эндпоинта с встроенным рассуждением, вызовом инструментов и нативным MTP speculative decoding.

7.0