Tech Meridian ← К ЛЕНТЕ
PROМОЙ MERIDIAN EN

РЕГУЛИРОВАНИЕ · CODING · #2796

AWS Batch добавляет управление квотами для совместного использования GPU в Amazon SageMaker Training (SageMaker Python SDK v3)

AWS Batch представил механизм управления квотами для задач Amazon SageMaker Training, позволяющий администраторам задавать квотные доли для команд или проектов и настраивать стратегии совместного использования ресурсов (RESERVE, LEND, LEND_AND_BORROW). Функция поддерживает кросс-долевую предпросацию (cross-share preemption) для возврата занятых ресурсов и приоритетную in-share предпросацию, интегрируется через Scheduling Policy, Service Environment, Job Queue и примеры в SageMaker Python SDK v3.

КЛЮЧЕВЫЕ ТЕЗИСЫ

  1. AWS Batch представил механизм управления квотами для задач Amazon SageMaker Training, позволяющий администраторам задавать квотные доли для команд или проектов и настраивать стратегии совместного использования ресурсов (RESERVE, LEND, LEND_AND_BORROW).
  2. Функция поддерживает кросс-долевую предпросацию (cross-share preemption) для возврата занятых ресурсов и приоритетную in-share предпросацию, интегрируется через Scheduling Policy, Service Environment, Job Queue и примеры в SageMaker Python SDK v3.
  3. Это позволяет организациям распределять, автоматически передавать и возвращать ограниченные GPU-ресурсы между командами, повышая их загрузку и упрощая координацию ML-тренировок.

ПОЧЕМУ ЭТО ВАЖНО

Это позволяет организациям распределять, автоматически передавать и возвращать ограниченные GPU-ресурсы между командами, повышая их загрузку и упрощая координацию ML-тренировок.

ИСТОЧНИКИ И ХРОНОЛОГИЯ

1
01
AWS MACHINE LEARNING ПЕРВОИСТОЧНИК
Lend and borrow resources across teams with AWS Batch’s quota management for SageMaker Training jobs

With the launch of AWS Batch support for Amazon SageMaker Training jobs, customers gained a new fully managed way to queue, schedule, and retry machine learning (ML) training workloads without building their own infrastructure. Instead, they use the queuing and scheduling features of AWS Batch. As organizations scale their artificial intelligence and machine learning (AI/ML) operations and onboard more teams, coordin…

↗