Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #11953

Pass@1

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

2

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Всеобъемлющая структура для всех этапов обучения больших моделей (arXiv:2610.33451v1)

Этот препринт на arXiv предлагает единую деление этапов и шестимерную аналитическую структуру (данные, функция цели, оптимизация, системные ограничения, оценка, риски/управление), охватывающую данные/токенизацию, предобучение и посттренировочную адаптацию для LLM и MLLM, и систематически ревьюирует 395 ссылок (2017–2026). Авторы приводят карту кросс-этапных эффектов, дерево решений, как минимум десять проверяемых открытых проблем и три ключевых вывода: сопоставимость законов масштабирования зависит от качества/смешения данных; методы выравнивания предпочтений (RLHF, DPO) и RL с верифицируемыми наградами меняют границы постобучения; мультимодальная тренировка ставит проблемы в дизайне токенизаторов, целевых функциях и оценке.

7.0

RESEARCH · 1 ИСТОЧН. · Apple Machine Learning Research

RLTL;DR — самоулучшение через интернализацию самостоятельно сгенерированной обратной связи

RLTL;DR — метод обучения с подкреплением, в котором после каждой неудачной попытки агент видит вывод проверяющей системы и записывает одно краткое TL;DR‑наблюдение; последующие прогоны условлены на накопленных наблюдениях, а обучение проводит обратное распространение через эти контекстные наблюдения для интернализации соответствия задача→наблюдение. На сложных наборах для вызова инструментов и кодирования, отфильтрованных до Pass@128 = 0, GRPO для Qwen 3.5 9B демонстрирует Pass@1 ≈ 0–1%, тогда как RLTL;DR даёт Pass@1 = 14–31% при наличии наблюдений в контексте во время обучения и 12–13% при оценке без наблюдений; упрощённая версия SFTL;DR, обученная только на 4k пар (задача, наблюдение), почти восстанавливает полную производительность, что указывает на компактную парадигму обучения «имей это в виду».

8.0