Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #7249

Jetson Thor

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

2

COMPANIES · 1 ИСТОЧН. · NVIDIA Developer

NVIDIA показала рабочий процесс TensorRT Edge-LLM для запуска Nemotron-3.5 Lightning на DGX Spark 64GB

NVIDIA опубликовала руководство по использованию TensorRT Edge-LLM (примеры тестировались с Edge-LLM 0.11.1 и TensorRT 10.16.1.11) на DGX Spark 64GB для прототипирования, дообучения и тестирования встраиваемых моделей. CLI trtedge загружает модели и создаёт оптимизированные TensorRT-движки, поддерживает локальный OpenAI-совместимый API и может включать DSpark speculative decoding (увеличение среднего генерирования с 73.4 до 126.9 токен/с на HumanEval при пиковом использовании памяти 27.9 ГБ).

7.0

RESEARCH · 1 ИСТОЧН. · Microsoft Research

Исследование: перенос инференса улучшает работу мобильных манипуляционных роботов, время работы и масштаб моделей

Технический отчет ставит под вопрос практику выполнения инференса только на бортовых GPU в физическом ИИ и показывает, что перенос инференса на edge- или облачные GPU повышает успешность задач, позволяет запускать более крупные модели и увеличивает время работы аккумулятора в задачах мобильной манипуляции. Авторы приводят количественные данные — например, замедление картирования/планирования до 383% на лёгких GPU по сравнению с A100, снижение обнаружения препятствий в навигации примерно на 30%, падение точности до ~50% для некоторых моделей и увеличение разрядки аккумулятора (Jetson Thor до ~160%) — и предлагают Kubernetes-ориентированный Physical AI Toolchain для контейнеризации и оркестровки распределённого инференса.

7.0