НОВОСТЬ · MODELS · #3311
NVIDIA Nemotron 3.5 Super VL доступна в Amazon SageMaker JumpStart
Модель NVIDIA Nemotron 3.5 Super VL — гибридная MoE мультимодальная модель на 120 миллиардов параметров (12B активных), с визуальным энкодером C-RADIO, поддержкой контекста до 1 млн токенов и MTP-головой — теперь доступна в Amazon SageMaker JumpStart. В JumpStart доступны квантизованный вариант NVFP4 для оптимизированного вывода и полноточный BF16, который можно скачать для дообучения и кастомизации; в статье также приводятся измерения производительности и варианты развёртывания на AWS.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Модель NVIDIA Nemotron 3.5 Super VL — гибридная MoE мультимодальная модель на 120 миллиардов параметров (12B активных), с визуальным энкодером C-RADIO, поддержкой контекста до 1 млн токенов и MTP-головой — теперь доступна в Amazon SageMaker JumpStart.
- В JumpStart доступны квантизованный вариант NVFP4 для оптимизированного вывода и полноточный BF16, который можно скачать для дообучения и кастомизации; в статье также приводятся измерения производительности и варианты развёртывания на AWS.
- Делает крупную мультимодальную модель с поддержкой длинного контекста (и квантизованным вариантом для дешёвого вывода) доступной на AWS, упрощая создание визуально-языковых агентов, анализа документов и видео, а также мультимодальных рабочих процессов.
ПОЧЕМУ ЭТО ВАЖНО
Делает крупную мультимодальную модель с поддержкой длинного контекста (и квантизованным вариантом для дешёвого вывода) доступной на AWS, упрощая создание визуально-языковых агентов, анализа документов и видео, а также мультимодальных рабочих процессов.