Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #539

GLM-5.1

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

3

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Статья HyScale представляет HyTopK и selection replay для ускорения обучения кустистой внимательности на длинных контекстах

HyScale (arXiv:2610.32057v1) предлагает систему для масштабирования обучения с длинными контекстами в архитектурах с изучаемой разреженной внимательностью, рассматривая результаты выбора как множества индексов и вводя HyTopK (поиск точного top-k на лету) и selection replay для отказа от полной таблицы скоринга и повторного выбора. Авторы приводят до 2.07× ускорения при обучении GLM-5.1 на последовательностях в 1 млн токенов по сравнению с Megatron-LM на 512 H20 GPU, а также 2.01× и 1.57× ускорения для CSA-слоёв DeepSeek-V4-Flash и QSA-слоёв Qwen3.8-Flash-Next на 1 млн токенов на 32 H800 GPU.

7.0

RESEARCH · 1 ИСТОЧН. · Hugging Face

Бенчмарк ThinkingBox от Microsoft оценивает агентов по состоянию бэкэнда и доступен на Hugging Face

ThinkingBox — бенчмарк Microsoft, который оценивает ИИ-агентов по итоговому состоянию бэкэнда и побочным эффектам (а не только по сгенерированному тексту) — запускает 507 рабочих сценариев по 20 повторов и теперь доступен на Hugging Face с возможностью запуска через OpenEnv. В исследовании отмечена значительная непоследовательность: из 121 680 испытаний на 12 моделях 79 853 не прошли исполнимые проверки, и многие успешные на вид прогоны всё же оставляли неверное или отсутствующее состояние в базе данных.

8.0

MODELS · 1 ИСТОЧН. · arXiv cs.AI

ZGCM-1: открытая 7B фундаментальная модель с высокой эффективностью и контекстом 256K для математики и агентного поиска

В публикации на arXiv (arXiv:2609.13356v1) представлен ZGCM-1 — полностью открытая плотная модель на 7 млрд параметров, обученная с упором на эффективность данных, систем и алгоритмов и работу с длинным контекстом (до 256K). Авторы утверждают, что ZGCM-1-7B сопоставима с гораздо большими моделями по общим бенчмаркам и по задачам математического рассуждения и агентного поиска, заявляют ≈4.2× ускорение до потери при предобучении на 16K, описывают рецепт обучения (включая чередующееся скользящее окно/полное внимание и FP8 Muon optimizer) и публикуют веса, контрольные точки, код, рецепты данных и логи W&B.

7.0