supervised fine-tuning (SFT)

2026-11-02

CODING · 1 ИСТОЧН. · AWS Machine Learning

Руководство Amazon SageMaker AI: SeqKD для более эффективных агентных моделей

В блоге Amazon SageMaker AI описывается применение sequence-level knowledge distillation (SeqKD) для обучения более компактных и дешёвых «студентских» моделей, воспроизводящих многошаговое поведение крупных «учительских» моделей. В материале показано, как генерировать траектории агента через API учителя, отбирать успешные прогоны с помощью программного оценщика, кодировать данные для SFT, запускать серверное (serverless) обучение и оценивать студента на отложенном бенчмарке.

6.0

2026-10-27

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Exowatt использовала серверную кастомизацию SageMaker для дообучения моделей Qwen3 для edge и облака, опередив frontier-модели

Exowatt создала повторяемый конвейер на Amazon SageMaker AI с серверной кастомизацией моделей для задач триажа тревог на edge (Qwen3-1.7B) и анализа энергорынка в облаке (Qwen3-14B). Дообученные модели превзошли контрольные frontier-модели по точности для этих задач и показали до 49× меньшую стоимость, обеспечив путь от операционных данных до развертываемых артефактов за дни вместо месяцев.

6.0

2026-10-12

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Uncertainty-Guided Progressive Contraction для эффективного дообучения рассуждений (arXiv:2610.12933v1)

В статье предложена система uncertainty-guided progressive contraction, сжимающая надзор за рассуждениями и концентрирующая оптимизацию на наиболее полезных траекториях. Авторы формируют Монте‑Карло деревья рассуждений вокруг промежуточных состояний CoT для оценки неопределённости, сначала сокращают корпус под руководством учителя, а затем выполняют онлайн‑маршрутизацию, адаптированную к студенту в SFT; заявлено до ≈450× меньшей продолжительности обучения (до 0.22% от полного SFT) при сохранении или улучшении качества рассуждений на разных бенчмарках и семейств моделeй.

7.0

2026-10-07

MODELS · 1 ИСТОЧН. · Hugging Face

Специализированные модели Nemotron‑3 дообучены до золотого уровня на IOI 2026 и IMO 2026

Команды, начав с Nemotron 3, применили SFT, RL и цикл вывода (GenCorrect) для создания специализированных чекпоинтов. Nemotron-3-Ultra-CC набрал 535,4/600 в живом запуске IOI 2026 (неофициальный бенчмарк), а комбинированная система на IMO 2026 получила 30 из 42 баллов по оценке официальных проверяющих, превысив порог золота.

8.0

2026-10-02

MODELS · 1 ИСТОЧН. · Hugging Face

Asta открывает исходники AstaBrief 8B — быстрой модели для научных отчётов

Asta выпустила AstaBrief 8B — модель на 8 миллиардов параметров для генерации цитируемых научных отчётов по вопросу исследования и извлечённым фрагментам литературы; модель доступна в функции «Generate a report» как Fast mode рядом с Claude-powered Thinking mode, а также Asta опубликовала веса модели, данные обучения и пример рабочего процесса для локального запуска. AstaBrief, созданная на базе Qwen3-8B с обучением через SFT и DPO-ориентированную подготовку данных, в их конвейере формирует отчёты примерно в 3.5× быстрее (51,1 с против 178,5 с); основная часть тренировки и оценки проводилась в 2025 году.

7.0

2026-09-21

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

LogicTrack: аудит рассуждений LLM с помощью формальных логических решателей

LogicTrack — нейро-символическая система, автоматически формализующая каждый шаг Chain-of-Thought и проверяющая его с помощью автоматических теорем-пруверов; вводится механизм оценки Solver-Based Backtracking Reward (SBR) для пошаговой оценки логической корректности и управления поиском с возвратом. Авторы также конструируют данные для контролируемой дообучки из трасс возврата и сообщают об улучшении проверяемости цепочек рассуждений и финальных результатов на 8 бенчмарках и с 7 LLM (arXiv:2609.21492v1).

6.0

2026-09-15

MODELS · 1 ИСТОЧН. · AWS Machine Learning

Инструкция: кастомизация Qwen3-8B на SageMaker serverless для системы тегирования товаров на базе ИИ

AWS Machine Learning опубликовал инструкцию по кастомизации Qwen3-8B с помощью supervised fine-tuning (SFT) и reinforcement learning with verifiable rewards (RLVR) через серверлес-кастомизацию моделей Amazon SageMaker и последующему развертыванию для асинхронного инференса с целью создания экономичной системы тегирования товаров.

5.0