SGLang

2026-10-30

COMPANIES · 1 ИСТОЧН. · NVIDIA Developer

NVIDIA упаковывает Dynamo 1.4.2 в проверенные рецепты для Kubernetes с помощью AICR

Платформа NVIDIA DSX AI Factory включает Dynamo 1.4.2 и его зависимости кластера в воспроизводимые, проверяемые рецепты рантайма через NVIDIA AI Cluster Runtime (AICR). AICR фиксирует версии компонентов и требования к GPU/DR A, планированию, сетям и мониторингу, предлагает пятишаговый процесс (снимок кластера, генерация рецепта, рендер бандла, развёртывание через Helmfile/GitOps, валидация) и описывает варианты маршрутизации (TCP + ZMQ) с интеграцией через Gateway API/EPP; NATS теперь доступен по выбору.

6.0

2026-10-29

MODELS · 5 ИСТОЧН. · Mistral AI · WIRED AI · Hugging Face · The Decoder · TechCrunch AI

Mistral выпустила веса Mistral Large 4 (Le Chonk) — 1‑трлн параметров, мультимодальная

Mistral опубликовала веса Mistral Large 4 (Le Chonk) — мультимодели с 1 трлн параметров, которая, по заявлению компании, лидирует среди открытых моделей по задачам кодирования и защищённости и получила три режима рассуждения для баланса скорости и стоимости. Компания отмечает обучение на европейской инфраструктуре, открытые веса, улучшения на бенчмарках (FrontierCode 19,7%; кодирование 48%; кибербезопасность 51%) и средний уровень отказов в ответах на вредоносные киберзапросы 96,6%, с опциями самостоятельного развёртывания.

8.0

2026-10-25

COMPANIES · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Google открыла исходники ML Drift — GPU-движок для локального AI-инференса

Google представила ML Drift — кросс-платформенный GPU-движок с открытым исходным кодом (Apache 2.0) для локального AI-инференса, абстрагирующий OpenGL ES, OpenCL, Metal и WebGPU. ML Drift — ядро LiteRT с едиными шейдерами через виртуализацию тензоров, поддержкой 5D-тензоров и аппаратными оптимизациями для Arm, Intel и Qualcomm; компания заявляет о замене устаревшего делегата TensorFlow Lite и приводит бенчмарки и ускорения в Chrome, YouTube Shorts, Photos, Adobe и Snapchat.

8.0

2026-10-16

MODELS · 1 ИСТОЧН. · AWS Machine Learning

Reflection выпустила Beam 1.0 — открытая модель для агентного кодирования с 501 млрд параметров, доступна на AWS

Reflection AI выпустила Beam 1.0 — открытую смесь экспертов (sparse MoE) для агентного кодирования и долгих задач (501 млрд общих параметров, 23 млрд активных, контекст до 1 млн токенов). Весы Beam размещены на Hugging Face под лицензией Apache 2.0, модель доступна через Amazon SageMaker JumpStart в регионах US East (N. Virginia и Ohio) с вариантами развёртывания через JumpStart real-time, SageMaker HyperPod Inference или собственные среды с SGLang и vLLM; контрольные точки предлагаются в BF16, FP8 и NVFP4.

8.0

2026-10-16

MODELS · 1 ИСТОЧН. · Hugging Face

Reflection выпустила Beam — 501B MoE открытая модель с контекстом 1M токенов (Apache‑2.0)

Reflection опубликовала Beam — 501-миллиардную модель Mixture-of-Experts на Hugging Face под лицензией Apache‑2.0. Beam исполняет примерно 23B параметров на токен, поддерживает текстовый ввод с контекстом до 1M токенов, ориентирована на кодирование и агентные задачи, поставляется с Rust‑ха́рнессом для производительности, имеет day‑0 поддержку в transformers, vLLM и SGLang и рецепты для инференса, SFT и RL.

8.0

2026-10-15

MODELS · 4 ИСТОЧН. · Hugging Face · NVIDIA Developer · The Decoder · TechCrunch AI

Meta представила Muse Spark Open — открытая мультимодальная MoE-модель на 816 млрд параметров

Meta выпустила Muse Spark Open — открытую MoE-модель примерно на 816 млрд параметров (≈42 млрд активных на токен), принимающую текст, изображения, аудио и видео и поддерживающую окно контекста до 1 048 576 токенов. По словам Meta, модель оптимизирована для агентных рабочих потоков разработки (чтение, запись, отладка кода и вызовы инструментов); чекпоинты доступны в BF16 (safetensors, ≈1,5 ТБ) и NVFP4 (4‑бит) для GPU NVIDIA Blackwell.

9.0

2026-09-24

MODELS · 1 ИСТОЧН. · Hugging Face

Liquid AI выпустила DSpark‑drafter для LFM2.5‑VL‑3B, ускоряющий декодирование VLM до 3,13×

Liquid AI выпустила DSpark‑drafter для визуально‑языковой модели LFM2.5‑VL‑3B, добавляющий спекулятивное декодирование и ускоряющий декодирование токенов до 3,13× на устройстве и 2,66× на H100 при увеличении размера модели примерно на 280M параметров (≈8,9%). Drafter доступен с поддержкой llama.cpp, MLX‑VLM и SGLang с первого дня и размещён на Hugging Face в формате Safetensors и GGUF; измеренные энд‑ту‑энд ускорения достигали до 2,62× на краю и 2,27× на GPU по задачам MMSpec.

7.0

2026-09-23

CODING · 1 ИСТОЧН. · NVIDIA Developer

Бенчмарк SWE-Serve показывает, что многие исправления, проходящие локальные тесты, не проходят при реальном запуске SGLang

SWE-Serve — новый бенчмарк, превращающий 83 смерженных PR SGLang в 53 исполняемых задачи по inference-serving; 19 таких задач запускают реальный сервер и проверяют исправления по полному пути обслуживания. По этим задачам одни и те же патчи проходят полностью в 45,9% случаев при использовании полного верификатора и в 69,4% случаев без проверок live-serving (примерно одна из трёх исправлений, прошедших прочие тесты, не проходит live-проверки); задачи, охватывающие несколько областей выполнения, имеют на 21,3 процентного пункта более низкий проход, а закрытые оценки моделей (11 моделей, mini-swe-agent) варьируют от 34,6% до 75,5%, лидируют Claude Opus 5 и GPT-5.6 Sol.

7.0

2026-03-16

MODELS · 1 ИСТОЧН. · Mistral AI

Mistral выпускает Small 4: 119B MoE мультимодальная модель с контекстом 256k (Apache 2.0)

Mistral объявила Mistral Small 4 — гибридную модель Mixture-of-Experts на 119 миллиардов параметров (128 экспертов, 4 активных), поддерживающую текст и изображения, с окном контекста 256k и настраиваемым параметром reasoning_effort; модель выпущена под лицензией Apache 2.0. Компания указывает, что Small 4 объединяет возможности Magistral, Pixtral и Devstral, нацелена на чаты, кодинг/агентов и сложное рассуждение, утверждает значительные улучшения задержки и пропускной способности по сравнению с Small 3 и доступна через vLLM, llama.cpp, SGLang, Transformers и другие среды.

9.0