Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #32693

PyTorch DistributedDataParallel (DDP)

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

1

CODING · 1 ИСТОЧН. · AWS Machine Learning

Amazon SageMaker HyperPod: три проверки в PyTorch DDP для обнаружения и восстановления от тихой порчи данных

Amazon описывает добавление трёх проверок целостности в циклы обучения PyTorch DistributedDataParallel на SageMaker HyperPod для обнаружения тихой порчи данных (SDC): проверку на нечисловые градиенты, аудит кольца с повторным вычислением микропакетов для побитного сравнения потерь/градиентов и сравнение отпечатков весов после обновления. При срабатывании проверки ранк сопоставляют с узлом в кластере EKS, локализуют и заменяют узел через HyperPod с восстановлением из чекпойнта; метод тестировали со встроенными программными ошибками на кластере ml.p5.48xlarge (32 H100), и код доступен в сопроводительном репозитории GitHub.

7.0