НОВОСТЬ · MODELS · #2069
Granite Switch 4.1 интегрирует адаптеры для решений и самый быстрый OpenASR-модель в одном endpoint
Granite Switch 4.1 (8B и 30B) объединяет общий Decision aLoRA, специализированный Guardian aLoRA (по заявлению команды превзойдёт несколько моделей по задачам безопасности) и Granite-Speech-5.0-Turbo-CTC (лидер OpenASR) в одном хостируемом endpoint. Адаптеры реализованы как кэш-эффективные Activated LoRAs и повторно используют KV-кэш базовой модели, что оставляет объём VRAM близким к базовой модели и позволяет быстро переключаться между чатом, принятием решений и распознаванием речи; демонстрация на Hugging Face показывает транскрипцию, сводки и проверку безопасности в реальном времени.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Granite Switch 4.1 (8B и 30B) объединяет общий Decision aLoRA, специализированный Guardian aLoRA (по заявлению команды превзойдёт несколько моделей по задачам безопасности) и Granite-Speech-5.0-Turbo-CTC (лидер OpenASR) в одном хостируемом endpoint.
- Адаптеры реализованы как кэш-эффективные Activated LoRAs и повторно используют KV-кэш базовой модели, что оставляет объём VRAM близким к базовой модели и позволяет быстро переключаться между чатом, принятием решений и распознаванием речи; демонстрация на Hugging Face показывает транскрипцию, сводки и проверку безопасности в реальном времени.
- Это важно, потому что объединяет чат, специализированные решения и высокоскоростное ASR в одном endpoint с низким использованием VRAM через переиспользуемые адаптеры, ускоряя мультизадачные рабочие процессы и упрощая составление специализированных адаптеров.
ПОЧЕМУ ЭТО ВАЖНО
Это важно, потому что объединяет чат, специализированные решения и высокоскоростное ASR в одном endpoint с низким использованием VRAM через переиспользуемые адаптеры, ускоряя мультизадачные рабочие процессы и упрощая составление специализированных адаптеров.