Netflix создает платформу надежности GPU с многоуровневыми проверками и автоматическим восстановлением
Netflix создала GPU-платформу на базе Kubernetes с многоуровневыми диагностическими проверками устройств и сети (например, NVIDIA DCGM, проверки Elastic Fabric Adapter), агентами узлов, управляющими контроллерами для поэтапного автоматического восстановления (интеграция с Karpenter), а также отказоустойчивым обучением с чекпоинтами и эластичными воркерами. Компания заявляет о более чем 99,95% доступности GPU-узлов и росте успешных задач с ≈98% до >99,5%; также используются NVIDIA MIG и планируется поддержка Kubernetes DRA для лучшего размещения и использования ресурсов.