НОВОСТЬ · CODING · #853
Google добавляет профилирование на уровне циклов в XProf для TPU v7
Google добавила набор профилирования ядра в XProf (профайлер OpenXLA/JAX), показывающий детали на уровне циклов для пользовательских ядер (например, Pallas) и снимающий аппаратные счетчики производительности на TPU v7 (Ironwood). Инструменты отображают пониженный MLIR, синхронизированные треки счетчиков по блокам, просмотр Perf Counters с ~16 000 сырыми счетчиками и поддерживают периодическую выборку (порог 1 мкс) или захват с внешним триггером для субмикросекундной точности; в демонстрации Google тройное буферизование сократило время матмул-ядра с 125,5 мкс до 88 мкс.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Google добавила набор профилирования ядра в XProf (профайлер OpenXLA/JAX), показывающий детали на уровне циклов для пользовательских ядер (например, Pallas) и снимающий аппаратные счетчики производительности на TPU v7 (Ironwood).
- Инструменты отображают пониженный MLIR, синхронизированные треки счетчиков по блокам, просмотр Perf Counters с ~16 000 сырыми счетчиками и поддерживают периодическую выборку (порог 1 мкс) или захват с внешним триггером для субмикросекундной точности; в демонстрации Google тройное буферизование сократило время матмул-ядра с 125,5 мкс до 88 мкс.
- Это предоставляет авторам ядер и пользователям TPU регистровую телеметрию как эталон, устраняя неточности статических моделей XLA и позволяя точнее оптимизировать производительность.
ПОЧЕМУ ЭТО ВАЖНО
Это предоставляет авторам ядер и пользователям TPU регистровую телеметрию как эталон, устраняя неточности статических моделей XLA и позволяя точнее оптимизировать производительность.