Инструкция: NVIDIA Run:ai GPU Fractioning обеспечивает выделение GPU‑памяти на уровне Pod в Amazon EKS (проверено на A10G)
В открытом релизе NVIDIA Run:ai представлен GPU Fractioning Operator, который интегрируется с планировщиком Kubernetes для принудительного соблюдения контрактов по GPU‑памяти и экспорта метрик на уровень Pod. В руководстве показано, как два Pod делят один NVIDIA A10G в Amazon EKS (у каждого контракт 8 ГиБ, фактическое выделение 6 ГиБ), с использованием KAI Scheduler, MPS и образа AL2023; проверялись только лимиты памяти, не устойчивость ошибок или производительность.