NVIDIA добавляет Global Performance Tuner в TensorRT 11.1 для расширения вариантов сборки
В статье (Часть 1) представлена функция Global Performance Tuner в TensorRT 11.1: настраиваемые маршруты сборки и механизм настройки с учётом точности расширяют пространство вариантов компиляции и проверяют кандидатов по сквозной точности и производительности. Пост описывает математическую модель сборки и отбора решений, три принципа работы тюнера и ссылается на документацию и ожидаемую Часть 2 с деталями алгоритма и архитектуры.