ИССЛЕДОВАНИЕ · RESEARCH · #880
Исследование: перенос инференса улучшает работу мобильных манипуляционных роботов, время работы и масштаб моделей
Технический отчет ставит под вопрос практику выполнения инференса только на бортовых GPU в физическом ИИ и показывает, что перенос инференса на edge- или облачные GPU повышает успешность задач, позволяет запускать более крупные модели и увеличивает время работы аккумулятора в задачах мобильной манипуляции. Авторы приводят количественные данные — например, замедление картирования/планирования до 383% на лёгких GPU по сравнению с A100, снижение обнаружения препятствий в навигации примерно на 30%, падение точности до ~50% для некоторых моделей и увеличение разрядки аккумулятора (Jetson Thor до ~160%) — и предлагают Kubernetes-ориентированный Physical AI Toolchain для контейнеризации и оркестровки распределённого инференса.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Технический отчет ставит под вопрос практику выполнения инференса только на бортовых GPU в физическом ИИ и показывает, что перенос инференса на edge- или облачные GPU повышает успешность задач, позволяет запускать более крупные модели и увеличивает время работы аккумулятора в задачах мобильной манипуляции.
- Авторы приводят количественные данные — например, замедление картирования/планирования до 383% на лёгких GPU по сравнению с A100, снижение обнаружения препятствий в навигации примерно на 30%, падение точности до ~50% для некоторых моделей и увеличение разрядки аккумулятора (Jetson Thor до ~160%) — и предлагают Kubernetes-ориентированный Physical AI Toolchain для контейнеризации и оркестровки распределённого инференса.
- Это важно, потому что системный перенос инференса может заметно повысить надёжность задач роботов, позволить использовать более крупные модели, снизить вес/стоимость/энергопотребление роботов и упростить развертывание с помощью Kubernetes-инструментария.
ПОЧЕМУ ЭТО ВАЖНО
Это важно, потому что системный перенос инференса может заметно повысить надёжность задач роботов, позволить использовать более крупные модели, снизить вес/стоимость/энергопотребление роботов и упростить развертывание с помощью Kubernetes-инструментария.