Tech Meridian ← К ЛЕНТЕ
PROМОЙ MERIDIAN EN

РЕЛИЗ · MODELS · #4010

Thinking Machines Lab выпускает Inkling 2 Mini — зацикленная MoE-модель для локального использования

Inkling 2 Mini — новая мультимодальная зацикленная трансформер‑MoE-модель от Thinking Machines Lab (~26B физических параметров, ~3B активных на токен), которая повторно использует 24 физических слоя в трёх проходах, чтобы имитировать более глубокую архитектуру; поддерживает контекст до 1M токенов, текст и изображения, веса экспертов в NVFP4/MXFP8 и включает DSpark‑drafter; также выпущен исследовательский чекпоинт с переменным числом проходов. Модель поставляется для локального и датацентрового инференса с поддержкой transformers, llama.cpp, MLX и SGLang и по заявлению лидирует в ряде бенчмарков в своём классе.

КЛЮЧЕВЫЕ ТЕЗИСЫ

  1. Inkling 2 Mini — новая мультимодальная зацикленная трансформер‑MoE-модель от Thinking Machines Lab (~26B физических параметров, ~3B активных на токен), которая повторно использует 24 физических слоя в трёх проходах, чтобы имитировать более глубокую архитектуру; поддерживает контекст до 1M токенов, текст и изображения, веса экспертов в NVFP4/MXFP8 и включает DSpark‑drafter; также выпущен исследовательский чекпоинт с переменным числом проходов.
  2. Модель поставляется для локального и датацентрового инференса с поддержкой transformers, llama.cpp, MLX и SGLang и по заявлению лидирует в ряде бенчмарков в своём классе.
  3. Релиз показывает практическую архитектуру с зацикленным MoE, увеличивающую логическую глубину и ёмкость при меньшем размере чекпоинта, что делает мощные мультимодальные модели более применимыми для локального и on‑premise использования.

ПОЧЕМУ ЭТО ВАЖНО

Релиз показывает практическую архитектуру с зацикленным MoE, увеличивающую логическую глубину и ёмкость при меньшем размере чекпоинта, что делает мощные мультимодальные модели более применимыми для локального и on‑premise использования.

ИСТОЧНИКИ И ХРОНОЛОГИЯ

2