Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #23085

Transformers (Hugging Face)

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

2

MODELS · 2 ИСТОЧН. · Hugging Face · The Decoder

Thinking Machines Lab выпускает Inkling 2 Mini — зацикленная MoE-модель для локального использования

Inkling 2 Mini — новая мультимодальная зацикленная трансформер‑MoE-модель от Thinking Machines Lab (~26B физических параметров, ~3B активных на токен), которая повторно использует 24 физических слоя в трёх проходах, чтобы имитировать более глубокую архитектуру; поддерживает контекст до 1M токенов, текст и изображения, веса экспертов в NVFP4/MXFP8 и включает DSpark‑drafter; также выпущен исследовательский чекпоинт с переменным числом проходов. Модель поставляется для локального и датацентрового инференса с поддержкой transformers, llama.cpp, MLX и SGLang и по заявлению лидирует в ряде бенчмарков в своём классе.

7.0

MODELS · 1 ИСТОЧН. · Hugging Face

Space показывает, какие модели Transformers запускаются на AWS Trainium через torch‑neuronx

Hugging Face Space под названием torch-neuronx model support публикует результаты тестов и скрипты для каждого популярного модели Transformers, показывая, запускаются ли они без изменений на AWS Trainium (Trainium2) с бэкендом torch-neuronx. Space отображает статистику выполнения, схему шардирования и использование памяти, версии Neuron-стека (neuronx-cc) и публикует Parquet‑набор данных aws-neuron/torch-neuronx-model-support и команды для повторного использования скомпилированных графов из публичного NEFF‑кэша.

5.0