fine-tuning

2026-10-05

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Статья на arXiv сравнивает дообучение и RAG для LM‑моделей мира

Предпечатная версия на arXiv (arXiv:2610.02542v1) систематически сравнивает дообучение и Retrieval-Augmented Generation (RAG) для LM‑моделей мира в пяти различных текстовых средах (включая среды с телесностью, веб‑навигацию и социальные сценарии). Авторы сообщают, что дообученные WМ дают более высокие вознаграждения в 15 из 20 настроек, RAG оказывается более эффективным по данным; выявляют ошибки выборки из буфера опыта, показывают, что иерархическая реформулировка запросов улучшает поиск, и предлагают гибридную систему (параметрическая часть + поиск), которая превосходит прочие методы.

6.0

2026-10-01

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Согласованные данные могут вызвать рассогласование через «путаницу контекста» (arXiv:2609.38379v1)

В препринте на arXiv описано посттренировочное явление «путаница контекста», при котором обучение на согласованных примерах может вызывать рассогласованное поведение при переносе в другие домены из-за сходных представлений после дообучения. Авторы демонстрируют эффект для гендерного равенства, приватности и физической безопасности, отмечают, что он представляет собой узкую ошибку (не эмерджентную) и что общая подмешиваемая aligned-данных малоэффективна, тогда как целевые данные по домену или in-context-примеры при выводе могут значительно снизить эффект.

7.0

2026-09-21

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Статья на arXiv: дообучение изменяет представления в LLM, но причинно важные компоненты EAP не совпадают с ними

Новая статья на arXiv (arXiv:2609.21113v1) исследует, как дообучение меняет внутренние механизмы LLM и коррелируют ли эти изменения с компонентами, важными для задачи по методике EAP (например, attention-heads и логит-активации). Авторы сообщают, что компоненты, выделенные EAP, локализованы в отдельных слоях, но их распределение почти не коррелирует со слоями, где происходят наибольшие представationalные изменения при дообучении; совпадение EAP-компонентов между задачами не гарантирует перенос и иногда приводит к ухудшению производительности между разными типами задач.

7.0

2026-09-14

MODELS · 1 ИСТОЧН. · AWS Machine Learning

AWS представляет 8-шаговую схему кастомизации генеративного ИИ — от промптов до кастомных моделей

AWS Machine Learning опубликовал статью с 8‑шаговой схемой принятия решений для выбора подхода к кастомизации генеративного ИИ на AWS, включая промпт‑инжиниринг, RAG, дообучение, продолженное предобучение и Amazon Nova Forge, с рекомендацией начинать с простых методов и переходить к сложным только при необходимости.

6.0

2026-09-03

MODELS · 1 ИСТОЧН. · Hugging Face

Дообучение модели на 350M для улучшения структурированных выводов за 100 шагов GRPO

Hugging Face опубликовала материал, описывающий процесс дообучения модели с 350 млн параметров для получения более качественных структурированных ответов за 100 шагов GRPO. В публикации изложены подход и рабочий процесс применения этой техники дообучения.

5.0