Исследование: перенос инференса улучшает работу мобильных манипуляционных роботов, время работы и масштаб моделей
Технический отчет ставит под вопрос практику выполнения инференса только на бортовых GPU в физическом ИИ и показывает, что перенос инференса на edge- или облачные GPU повышает успешность задач, позволяет запускать более крупные модели и увеличивает время работы аккумулятора в задачах мобильной манипуляции. Авторы приводят количественные данные — например, замедление картирования/планирования до 383% на лёгких GPU по сравнению с A100, снижение обнаружения препятствий в навигации примерно на 30%, падение точности до ~50% для некоторых моделей и увеличение разрядки аккумулятора (Jetson Thor до ~160%) — и предлагают Kubernetes-ориентированный Physical AI Toolchain для контейнеризации и оркестровки распределённого инференса.