Amazon SageMaker HyperPod: три проверки в PyTorch DDP для обнаружения и восстановления от тихой порчи данных
Amazon описывает добавление трёх проверок целостности в циклы обучения PyTorch DistributedDataParallel на SageMaker HyperPod для обнаружения тихой порчи данных (SDC): проверку на нечисловые градиенты, аудит кольца с повторным вычислением микропакетов для побитного сравнения потерь/градиентов и сравнение отпечатков весов после обновления. При срабатывании проверки ранк сопоставляют с узлом в кластере EKS, локализуют и заменяют узел через HyperPod с восстановлением из чекпойнта; метод тестировали со встроенными программными ошибками на кластере ml.p5.48xlarge (32 H100), и код доступен в сопроводительном репозитории GitHub.