Qwen3-8B

2026-10-21

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

TxnQA: бенчмарк для аналитического рассуждения и проверки доказательств по последовательностям транзакций (arXiv:2610.27256v1)

TxnQA — новый QA-бенчмарк (arXiv:2610.27256v1) для аналитического рассуждения и привязки доказательств по синтетическим, конфиденциально-минимизированным последовательностям транзакций. Включает 27 семейств задач (81 шаблон), 5 сценариев оценки риска мошенничества; использует метрики форматного соответствия (FFR), условной точности содержания (CA) и полной корректности (E2E); показывает, что LoRA-адаптация улучшает соблюдение схем вывода, но остаются проблемы с арифметикой и атрибуцией доказательств — например, Gemma-4-31B-IT и Qwen3-8B имеют E2E 0.867 и 0.816, MoE-чекпоинты 0.632–0.713, а на 500 примерах мошенничества точность вердикта часто >80%, тогда как совместная точность (вердикт + точное доказательство) падает примерно до 23%.

7.0

2026-10-19

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Статья: Узкая вредоносная донастройка reward‑моделей Skywork обобщается на другие домены

Предмет препринта arXiv (arXiv:2610.22805v1): донастройка двух reward‑моделей (Skywork‑Reward‑V2‑Llama‑3.1‑8B и Skywork‑Reward‑V2‑Qwen3‑8B) в пользу вредных ответов в одном домене (медицина или финансы) приводит к инверсии предпочтений, которая обобщается на семь удерживаемых доменов при лишь незначительном снижении результатов на RewardBench 2. Авторы также донастраивали базовые языковые модели и сообщают, что reward‑модели более уязвимы к таким инверсиям; механизм включает геометрическую компрессию представлений и смещение вредных представлений ближе к скалярной голове на последнем токене.

7.0

2026-10-16

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Статья предлагает калиброванный по уверенности трёхдействийный контроллер для оценки в тестовом рассуждении

Статья (arXiv:2610.20836v1) рассматривает оценочно-управляемое рассуждение как проблему принятия трёхдействийного решения с учётом вычислений (довериться, откат или расширить) и обучает контроллер, который оценивает терминальные действия по предсказанной успешности, а расширение — через роллаут-суррогат продолжения, при явном ценообразовании вычислений. Метод обучает специфичные для действий калиброванные уверенности и штрафы за локальную неопределённость; на задачах расширения ширины и ревизии он снижает нормализованные вычисления онлайн примерно на 30% и 16% соответственно по сравнению с фиксированными политиками, при небольших и смешанных различиях в полезности на четырёх семенах Qwen3-8B.

6.0

2026-10-15

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Echo: коррекционный 4‑битный all‑reduce для тензорного параллелизма при обучении и выводе LLM

В статье на arXiv предложен Echo — 4‑битный протокол all‑reduce для тензорного параллелизма при обучении и выводе LLM, который передаёт данные в 4 бита, суммирует в высокой точности и передаёт погрешности округления в последующие вызовы, чтобы они компенсировались, а не накапливались. Авторы доказывают, что накопленная ошибка не зависит от глубины, и приводят результаты: Echo в 2.09× быстрее 16‑битного NCCL all‑reduce при сообщениях 1 ГБ на A100, ускоряет время до первого токена и шаг обучения до ~1.16×/1.09× на тихой сети (и сильнее при фоне), сохраняет точность в пределах 0.4 пункта для Qwen3‑8B и даёт <0.9% больший итоговый loss после 10B токенов, без требований к FP8/FP4‑оборудованию.

7.0

2026-10-09

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Plan-and-Patch: диффузионные LLM для генерации и починки долгосрочных планов

Статья представляет Plan-and-Patch — фреймворк, в котором диффузионная языковая модель (dLLM) генерирует структурированные, похожие на программы планы с параллельным размаскированием и восстанавливает части плана, заполняя выделенные регионы при сохранении соседних шагов. Сравнение DreamReasoner-8B (диффузия) и Qwen3-8B (авторегрессия) показывает: на Natural Plan без дообучения диффузия достигает 53.7% успеха починки плана против 27.0% у AR; после дообучения на ALFWorld и TextCraft показатели успеха становятся схожими, при этом диффузия сокращает среднюю задержку генерации плана на 39–46%.

6.0

2026-10-09

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Adaptive Reference Guidance (ARG) для продолжения префикса в RL для рассуждений (arXiv:2610.11128v1)

Препринт на arXiv (2610.11128v1) исследует, сколько ссылочного руководства давать при обучении моделей рассуждений через продолжение префикса и выводит в замкнутой форме дивергенцию KL для одиночных продолжений. На основе этого анализа предложена Adaptive Reference Guidance (ARG) — обучаемый селектор префиксов, который формирует корректные траектории в рамках фиксированного бюджета генерации и при применении к GRPO с Qwen3-4B и Qwen3-8B на пяти бенчмарках математических задач показывает наивысший суммарный pass@12 среди оцененных методов при конкурентной средней точности выборки.

6.0

2026-10-02

MODELS · 1 ИСТОЧН. · Hugging Face

Asta открывает исходники AstaBrief 8B — быстрой модели для научных отчётов

Asta выпустила AstaBrief 8B — модель на 8 миллиардов параметров для генерации цитируемых научных отчётов по вопросу исследования и извлечённым фрагментам литературы; модель доступна в функции «Generate a report» как Fast mode рядом с Claude-powered Thinking mode, а также Asta опубликовала веса модели, данные обучения и пример рабочего процесса для локального запуска. AstaBrief, созданная на базе Qwen3-8B с обучением через SFT и DPO-ориентированную подготовку данных, в их конвейере формирует отчёты примерно в 3.5× быстрее (51,1 с против 178,5 с); основная часть тренировки и оценки проводилась в 2025 году.

7.0

2026-10-01

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Decode-Latency Feedback Prefill (DLFP): безмодельный контроллер для размеров prefill

В статье (arXiv:2609.38386v1) предложен Decode-Latency Feedback Prefill (DLFP) — безмодельный контроллер, реализованный в vLLM, который адаптивно изменяет размеры prefill для работы, перекрывающейся с активной генерацией. На Qwen3-0.6B (BF16) на одной NVIDIA A100 80 GB авторы за три пары из 100 запросов сообщили среднее сокращение P99 межтокенной задержки на 27.7% (парный 95% ДИ 21.0%–34.3%) при точном совпадении вывода и без нарушения SLO, но при увеличении P99 времени до первого токена на 34.8%; метод не обобщился на Qwen3-8B, Qwen3-32B или двух GPU в тензорном параллелизме, что авторы связывают с использованием асинхронного интервала планировщика как прокси для времени завершения итерации на GPU.

6.0

2026-09-15

MODELS · 1 ИСТОЧН. · AWS Machine Learning

Инструкция: кастомизация Qwen3-8B на SageMaker serverless для системы тегирования товаров на базе ИИ

AWS Machine Learning опубликовал инструкцию по кастомизации Qwen3-8B с помощью supervised fine-tuning (SFT) и reinforcement learning with verifiable rewards (RLVR) через серверлес-кастомизацию моделей Amazon SageMaker и последующему развертыванию для асинхронного инференса с целью создания экономичной системы тегирования товаров.

5.0