ИССЛЕДОВАНИЕ · RESEARCH · #2783
TF32x3 и BF16x9 ускоряют инференс Point Edge Transformer (MLIP) при сохранении точности, близкой к FP32
Оценка на Point Edge Transformer (Lab COSMO, EPFL) показывает: BF16x9 на Blackwell ускоряет большие GEMM на 2,2–2,5× (система 17 280 атомов) и на 1,2–1,4× (192 атома), а TF32x3 на Ampere ускоряет основные GEMM на 1,7–1,9× и полный шаг МД до 1,5×; TF32x3 сохраняет гладкость потенциальной энергии и сохранение энергии в NVE-траекториях и сходится при релаксации структуры (539-атомная пластина сплава Кантера) за 218–222 шага с ~1,5× ускорением на шаг, тогда как одно-проходный TF32 не достигает порога по силе после 1000 шагов. В публикации указано, как включить BF16x9 через cuBLAS и даны ссылки на NVIDIA ALCHEMI Toolkit и репозиторий UPET для интеграции и контрольных точек.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Оценка на Point Edge Transformer (Lab COSMO, EPFL) показывает: BF16x9 на Blackwell ускоряет большие GEMM на 2,2–2,5× (система 17 280 атомов) и на 1,2–1,4× (192 атома), а TF32x3 на Ampere ускоряет основные GEMM на 1,7–1,9× и полный шаг МД до 1,5×; TF32x3 сохраняет гладкость потенциальной энергии и сохранение энергии в NVE-траекториях и сходится при релаксации структуры (539-атомная пластина сплава Кантера) за 218–222 шага с ~1,5× ускорением на шаг, тогда как одно-проходный TF32 не достигает порога по силе после 1000 шагов.
- В публикации указано, как включить BF16x9 через cuBLAS и даны ссылки на NVIDIA ALCHEMI Toolkit и репозиторий UPET для интеграции и контрольных точек.
- Методы Tensor Core для FP32 позволяют существенно ускорить инференс MLIP на современных GPU NVIDIA без дообучения при сохранении числовой корректности траекторий, что открывает возможность более крупных или более длительных атомистических симуляций.
ПОЧЕМУ ЭТО ВАЖНО
Методы Tensor Core для FP32 позволяют существенно ускорить инференс MLIP на современных GPU NVIDIA без дообучения при сохранении числовой корректности траекторий, что открывает возможность более крупных или более длительных атомистических симуляций.