НОВОСТЬ · CODING · #4000
Meta разработала Triton Low-Level Extensions (TLX) для явного управления исполнением на GPU
Meta разработала расширение TLX для компилятора Triton, открывающее низкоуровневые возможности исполнения на GPU через новую модель MIMW (Multiple Instructions, Multiple Warps). По данным Meta, TLX дополняет Triton в областях оркестрации warp‑групп, синхронизации, управления памятью, кластерного исполнения и опциональных раскладок; в продакшене сообщаются ускорения (например, 20–25% MFU и до 2× ускорения прямого прохода на Blackwell, 4× для линейного ядра на H100), и планируется расширение поддержки архитектур и интеграция с torch.compile.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Meta разработала расширение TLX для компилятора Triton, открывающее низкоуровневые возможности исполнения на GPU через новую модель MIMW (Multiple Instructions, Multiple Warps).
- По данным Meta, TLX дополняет Triton в областях оркестрации warp‑групп, синхронизации, управления памятью, кластерного исполнения и опциональных раскладок; в продакшене сообщаются ускорения (например, 20–25% MFU и до 2× ускорения прямого прохода на Blackwell, 4× для линейного ядра на H100), и планируется расширение поддержки архитектур и интеграция с torch.compile.
- TLX предоставляет пользователям Triton явный доступ к структурам исполнения, которые всё больше определяют производительность современных GPU, что, по данным Meta, обеспечивает существенные ускорения в обучении и инференсе.
ПОЧЕМУ ЭТО ВАЖНО
TLX предоставляет пользователям Triton явный доступ к структурам исполнения, которые всё больше определяют производительность современных GPU, что, по данным Meta, обеспечивает существенные ускорения в обучении и инференсе.