Не установлено по доступным источникам.
NVIDIA · ТРЕКЕР МОДЕЛИ
Nemotron-3.5 Lightning
Nemotron-3.5 Lightning — текстовая модель NVIDIA; в статье показано её запуск на NVIDIA DGX Spark с помощью TensorRT Edge-LLM и trtedge CLI; модель можно запускать локально через OpenAI-совместимый API-сервер и включать в рабочие процессы развёртывания на устройствах Edge.ТЕКУЩИЙ СНИМОК2/5 РАЗДЕЛОВ С ДАННЫМИ
Главные характеристики в одном месте.
Не установлено по доступным источникам.
МодальностьОписана как текстовая модель.
Не установлено по доступным источникам.
Запускается на DGX Spark с TensorRT Edge-LLMВ статье показан запуск Nemotron-3.5 Lightning на NVIDIA DGX Spark с использованием TensorRT Edge-LLM и trtedge CLI для загрузки модели и сборки оптимизированных TensorRT-движков.
Локальный сервер через OpenAI-совместимый APIOpenAI-совместимый API-сервер может обслуживать модель локально для прототипирования приложений и тестирования.
ПРОВЕРЯЕМЫЕ ФАКТЫ
Каждое значение привязано к источнику и дате.
МОДАЛЬНОСТИ · МодальностьДАННЫЕ РАЗРАБОТЧИКА
Описана как текстовая модель.
ДОСТУПНОСТЬ · Запускается на DGX Spark с TensorRT Edge-LLMДАННЫЕ РАЗРАБОТЧИКА
В статье показан запуск Nemotron-3.5 Lightning на NVIDIA DGX Spark с использованием TensorRT Edge-LLM и trtedge CLI для загрузки модели и сборки оптимизированных TensorRT-движков.
ДОСТУПНОСТЬ · Локальный сервер через OpenAI-совместимый APIДАННЫЕ РАЗРАБОТЧИКА
OpenAI-совместимый API-сервер может обслуживать модель локально для прототипирования приложений и тестирования.
ВОЗМОЖНОСТИ · Поддерживает интерактивные чат-сессии через trtedge CLIДАННЫЕ РАЗРАБОТЧИКА
trtedge CLI может загрузить модель и собрать оптимизированные TensorRT-движки, что позволяет запустить чат-сессию с Nemotron-3.5 Lightning всего в несколько команд.
ЧТО ИЗМЕНИЛОСЬ