НОВОСТЬ · COMPANIES · #2819
Netflix создает платформу надежности GPU с многоуровневыми проверками и автоматическим восстановлением
Netflix создала GPU-платформу на базе Kubernetes с многоуровневыми диагностическими проверками устройств и сети (например, NVIDIA DCGM, проверки Elastic Fabric Adapter), агентами узлов, управляющими контроллерами для поэтапного автоматического восстановления (интеграция с Karpenter), а также отказоустойчивым обучением с чекпоинтами и эластичными воркерами. Компания заявляет о более чем 99,95% доступности GPU-узлов и росте успешных задач с ≈98% до >99,5%; также используются NVIDIA MIG и планируется поддержка Kubernetes DRA для лучшего размещения и использования ресурсов.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Netflix создала GPU-платформу на базе Kubernetes с многоуровневыми диагностическими проверками устройств и сети (например, NVIDIA DCGM, проверки Elastic Fabric Adapter), агентами узлов, управляющими контроллерами для поэтапного автоматического восстановления (интеграция с Karpenter), а также отказоустойчивым обучением с чекпоинтами и эластичными воркерами.
- Компания заявляет о более чем 99,95% доступности GPU-узлов и росте успешных задач с ≈98% до >99,5%; также используются NVIDIA MIG и планируется поддержка Kubernetes DRA для лучшего размещения и использования ресурсов.
- При масштабировании до тысяч GPU надежность нужно решать как задачу распределённых систем — автоматизация обнаружения, восстановления и отказоустойчивого восстановления снижает простои и увеличивает процент успешных задач, предлагая модель эксплуатации для других организаций.
ПОЧЕМУ ЭТО ВАЖНО
При масштабировании до тысяч GPU надежность нужно решать как задачу распределённых систем — автоматизация обнаружения, восстановления и отказоустойчивого восстановления снижает простои и увеличивает процент успешных задач, предлагая модель эксплуатации для других организаций.