НОВОСТЬ · COMPANIES · #259
NVIDIA выпустила бета-версию Personal AI Router (PAIR) для распределения AI‑нагрузок по локальным компьютерам
Personal AI Router (PAIR) от NVIDIA, вышедший в бета‑версии, позволяет объединять вычислительную мощность нескольких компьютеров в локальной сети и автоматически распределять AI‑запросы между ними. Он ориентирован на локальные мульти‑агентные рабочие нагрузки, при которых множественные независимые вызовы моделей могут перегружать один GPU.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Personal AI Router (PAIR) от NVIDIA, вышедший в бета‑версии, позволяет объединять вычислительную мощность нескольких компьютеров в локальной сети и автоматически распределять AI‑запросы между ними.
- Он ориентирован на локальные мульти‑агентные рабочие нагрузки, при которых множественные независимые вызовы моделей могут перегружать один GPU.
- PAIR может снизить узкие места одного GPU для локального мульти‑агентного вывода, объединяя и распределяя вычисления между несколькими машинами и повышая эффективность использования ресурсов.
ПОЧЕМУ ЭТО ВАЖНО
PAIR может снизить узкие места одного GPU для локального мульти‑агентного вывода, объединяя и распределяя вычисления между несколькими машинами и повышая эффективность использования ресурсов.