НОВОСТЬ · COMPANIES · #1793
Ai2 заменяет планировщик GPU на приоритетах на бюджетный справедливый шейринг и тайм‑слайсинг
Институт искусственного интеллекта Аллена (Ai2) заменил планировщик GPU на приоритетной основе системой с бюджетами времени GPU, иерархическим справедливым делением ресурсов и контрактом тайм‑слайсинга, чтобы лучше направлять ограниченные GPU‑ресурсы при сохранении загрузки. Это переводит решение о распределении времени с оперативных обходов на прозрачный административный процесс для кластеров с H100/B200/B300, обслуживающих около 150 исследователей.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Институт искусственного интеллекта Аллена (Ai2) заменил планировщик GPU на приоритетной основе системой с бюджетами времени GPU, иерархическим справедливым делением ресурсов и контрактом тайм‑слайсинга, чтобы лучше направлять ограниченные GPU‑ресурсы при сохранении загрузки.
- Это переводит решение о распределении времени с оперативных обходов на прозрачный административный процесс для кластеров с H100/B200/B300, обслуживающих около 150 исследователей.
- Это важно, поскольку меняется порядок распределения ограниченной GPU‑ёмкости — уменьшаются раздувание приоритетов, «занятие» ресурсов и ручные вмешательства, а бюджеты и справедливость проектов становятся явными.
ПОЧЕМУ ЭТО ВАЖНО
Это важно, поскольку меняется порядок распределения ограниченной GPU‑ёмкости — уменьшаются раздувание приоритетов, «занятие» ресурсов и ручные вмешательства, а бюджеты и справедливость проектов становятся явными.