Amazon EKS

2026-10-29

MODELS · 1 ИСТОЧН. · AWS Machine Learning

NVIDIA выпустила Nemotron 3.5 Super VL (120B MoE) и опубликовала руководство по развёртыванию на AWS EKS / SageMaker

NVIDIA выпустила Nemotron 3.5 Super VL — открытую мультимодальную модель MoE с 120 млрд параметров, которая активирует около 12 млрд параметров на токен и получена путём дистилляции от Nemotron 3 Ultra. NVIDIA опубликовала веса модели, обучающие наборы данных и рецепты пост‑обработки, а также референсные реализации и пошаговое руководство aws-do-eks по развёртыванию моделей Nemotron на Amazon EKS, EKS Auto Mode и SageMaker HyperPod EKS; модель валидирована на AWS GPU‑инстансах и интегрируется с основными агентными фреймворками через NVIDIA Agent Toolkit.

7.0

2026-10-28

CODING · 1 ИСТОЧН. · AWS Machine Learning

AWS Ray Train DLC (train-ml-cuda-v1.1) обеспечивает многозвённую PyTorch с EFA на EKS

AWS предлагает контейнер Ray Train DLC (public.ecr.aws/deep-learning-containers/ray:train-ml-cuda-v1.1), в котором собраны CUDA, NCCL, библиотеки EFA и Ray, что позволяет запускать многозвённую PyTorch-тренировку на EKS без сборки пользовательских образов. В примере показана донастройка Qwen2.5-1.5B с PyTorch FSDP на восьми NVIDIA L4 GPU (два инстанса g6.12xlarge) с использованием KubeRay и EFA.

6.0

2026-10-23

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Практическое руководство: многошаговое обучение с подкреплением (MTRL) в Amazon SageMaker AI с AgentCore

Amazon опубликовала практическое руководство по многошаговому обучению с подкреплением (MTRL) в SageMaker AI, в котором агент, размещённый в Amazon Bedrock AgentCore (или в инфраструктуре пользователя), вызывает обучаемую полиси-модель и возвращает награду по эпизоду. В статье показан полный конвейер (развёртывание, подготовка данных, обучение LoRA с GRPO, мониторинг в MLflow, оценка), в качестве примера использована Wordle; авторы утверждают, что GPT-OSS-20B поднялся с 61% до 84% решаемости (и с 15% до 69% при низкой вычислительной затрате) примерно за $339 на токены, код доступен в aws-samples репозитории.

6.0

2026-10-22

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Rescale создала автоматического агента триажа тестов с Strands Agents и AI-DLC

Rescale применила открытую методологию AI-Driven Development Lifecycle (AI-DLC) и Strands Agents для создания агента, который классифицирует и маршрутизирует сбои ночных end-to-end тестов. Агент выполняется в Argo Workflows на Amazon EKS, вызывает Claude Opus 4.8 через Amazon Bedrock, запрашивает логи через Model Context Protocol (MCP) и был развернут в staging за пять дней, а в production — в течение недель.

6.0

2026-10-20

MODELS · 1 ИСТОЧН. · AWS Machine Learning

GPT-OSS-20B дообучили для многоязычного рассуждения на Amazon SageMaker HyperPod

Команда дообучила модель GPT-OSS-20B на многоязычном датасете цепочек рассуждений (HuggingFaceH4/Multilingual-Thinking) с использованием SFT и GRPO на Amazon SageMaker HyperPod (EKS, LoRA, TRL/veRL, vLLM, Ray/KubeRay, Amazon FSx for Lustre). Итог: базовая модель почти всегда генерировала цепочки рассуждений на английском; SFT устраняет большую часть разрыва в поведении по языку, а GRPO даёт добавочный эффект лишь когда желаемое поведение уже встречается с ненулевой вероятностью.

6.0

2026-10-20

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Руководство AtScale C2026.7: создание семантического слоя для агентов Amazon Bedrock AgentCore

Техническое руководство показывает использование AtScale (C2026.7) в роли размерного семантического слоя (SML) для агентных рабочих процессов на Amazon Bedrock AgentCore. В публикации демонстрируется запуск агента Strands в AgentCore (для демонстрации использовали Anthropic Claude Sonnet 4.6), однократная экспозиция модели через SQL/XMLA/MCP, передача идентичности и применение RBAC через AgentCore к AtScale, выталкивание запросов в Amazon Redshift Serverless и развертывание в Amazon EKS.

5.0

2026-10-12

CODING · 1 ИСТОЧН. · AWS Machine Learning

AWS запускает Ray LLM DLC для мульти‑нодовой инференции LLM на Amazon EKS

AWS опубликовала руководство и выпустила Ray LLM Deep Learning Container (DLC), который позволяет развернуть одну большую модель на нескольких GPU‑нoдах в Amazon EKS с раздельными этапами prefill и decode. Контейнер включает vLLM, Ray Serve LLM, NIXL для передачи KV‑кэша и стек EFA, предоставляет OpenAI‑совместимый endpoint и содержит вспомогательный скрипт (build_pd_openai_app) и пример в репозитории.

6.0

2026-10-08

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Amazon представила референсную архитектуру для HyperPod на EKS с поддержкой многопользовательности

AWS описывает референсную архитектуру использования Amazon SageMaker HyperPod с Amazon EKS, позволяющую нескольким командам совместно использовать GPU‑кластеры при сохранении изоляции, справедливого распределения ресурсов и учёта затрат по командам. Решение использует AWS IAM Identity Center для аутентификации, отдельные домены SageMaker для команд и Kubernetes‑пространства имён для изоляции, HyperPod Task Governance для квотирования и HyperPod Observability для мониторинга.

6.0

2026-10-06

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Управление Amazon SageMaker HyperPod Spaces прямо из SageMaker Studio

AWS добавила поддержку управления SageMaker Spaces на кластерах HyperPod EKS через интерфейс SageMaker Studio, что позволяет дата‑сайентистам запускать JupyterLab или Code Editor и включать/останавливать Spaces без использования CLI. Администраторам нужно установить дополнение SageMaker Spaces на HyperPod, прикрепить необходимые IAM‑политики и включить per-user identity propagation для домена Studio.

6.0

2026-10-01

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

AWS описывает рабочие процессы AgentCore и интеграции Amazon Bedrock для миграций в облако и агентных задач

Технический пост AWS описывает, как AWS Professional Services использует многоагентную рамку на базе Amazon Bedrock AgentCore для автоматизации сквозных корпоративных миграций в облако и сокращения времени разработки IaC с недель до минут. В статье также приведены инструкции и интеграции — Live Data в Amazon QuickSight, использование Amazon S3 Vectors как постоянной памяти с NVIDIA NeMo Agent Toolkit на EKS, шаблоны ambient-агентов, настройка Claude Platform на AWS, персонализация через SageMaker AI, дообучение Nova 2 Lite для uniopen, конверсационный ассистент на Bedrock Knowledge Bases и Runtime Instances для AgentCore.

7.0

2026-10-01

CODING · 1 ИСТОЧН. · AWS Machine Learning

Использование Amazon S3 Vectors в качестве постоянной памяти для NVIDIA NeMo Agent Toolkit (NAT v1.6)

Инструкцию по реализации Amazon S3 Vectors как пользовательского провайдера памяти для открытого фреймворка NVIDIA NeMo Agent Toolkit (NAT): плагин MemoryEditor, конфигурация YAML и развёртывание в Amazon EKS; тестировалось с NAT v1.6 и использовалась модель Amazon Titan Text Embeddings V2 для векторных представлений. В статье показано, как сопоставить модель памяти NAT (MemoryItem/MemoryEditor) с индексами и метаданными S3 Vectors и какие инструменты и настройки нужны для примера с мультиагентной исследовательской системой.

5.0

2026-10-01

CODING · 1 ИСТОЧН. · AWS Machine Learning

Руководство Anthropic: реализация многосредового доступа к Claude Platform на AWS

Anthropic выпустила пошаговое руководство по реализации доступа к Claude Platform на AWS (CPonAWS) из трёх окружений: продукционных нагрузок в AWS через кросс‑аккаунтный SigV4, локальных ноутбуков разработчиков через ключи, привязанные к рабочим пространствам, и внешних сервисов через федерацию OIDC и краткоживущие токены. В руководстве описана рекомендованная трёхаккаунтная топология (payer, AI Services, workload), настройки IAM, примеры ARNs рабочих пространств, региональные конечные точки и конкретные команды и сниппеты кода.

6.0

2026-10-01

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Uniopen дообучила Amazon Nova 2 Lite для модерации контента в ритейле

Uniopen (в составе тайваньской Uni‑President Enterprises Group) настроила Amazon Nova 2 Lite под свою таксономию модерации в ритейле через супервизированное дообучение в Amazon SageMaker AI и оптимизацию вывода на уровне подсказок; Nova 2 Pro генерирует кандидатные исправления, которые проверяются людьми до включения в обучающий набор. Конвейер развертывания использует Amazon S3, DynamoDB, Argo Workflows на EKS, Argo CD, SNS, CloudWatch и Bedrock Guardrails с проверками «жёстких» и «мягких» ворот, фиксированными тестовыми наборами и обязательной человеческой верификацией в спорных случаях.

6.0

2026-09-25

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Запуск пост‑обучения SkyRL (GRPO) для Qwen3‑VL‑8B на Amazon SageMaker HyperPod

Amazon показала запуск открытой библиотеки SkyRL на SageMaker HyperPod (EKS) для пост‑обучения визуально‑языковой модели Qwen3‑VL‑8B методом Group Relative Policy Optimization (GRPO). На HyperPod Ray‑кластере с общим хранилищем FSx решение повысило процент решения лабиринтов с 43,75% до более чем 95% на фиксированном наборе из 64 лабиринтов, сочетая vLLM‑инференс и FSDP‑шардинг политики с LoRA‑адаптерами.

6.0

2026-09-25

MODELS · 1 ИСТОЧН. · AWS Machine Learning

Amazon SageMaker HyperPod и Qumulo позволяют обучать модели между регионами без копирования данных

Amazon и Qumulo подтвердили архитектуру, в которой Amazon SageMaker HyperPod в сочетании с Cloud Native Qumulo (CNQ) и Qumulo Cloud Data Fabric (CDF) позволяет кластерам обучаться на едином наборе данных, расположенном в другом регионе AWS, без репликации данных. В тесте между us-east-2 (hub) и us-west-2 (spoke) при запуске LLaMA v3 (1,02 млрд параметров) на двух ml.p5.48xlarge-инстансах на кластер (16 H100 GPU) удалённый кластер после короткого прогрева NeuralCache достиг пропускной способности хаба (≈115–117 образцов/с) и почти полной загрузки GPU.

7.0

2026-09-16

CODING · 1 ИСТОЧН. · AWS Machine Learning

NVIDIA NVRx добавляет отказоустойчивость в обучение PyTorch FSDP на Amazon EKS

NVIDIA описывает интеграцию расширения Resiliency Extension (NVRx) с PyTorch FSDP на Amazon EKS для уменьшения времени простоя при крупномасштабном обучении на нескольких узлах. В публикации показаны асинхронные контрольные точки (TorchAsyncCheckpoint), перезапуск внутри процесса и средство перезапуска внутри задачи (ft_launcher), приведены бенчмарки на H100 для 2–8 узлов и опубликован воспроизводимый код и пакет nvidia-resiliency-ext для pip.

6.0