Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #32506

Natalie Mackraz

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

2

RESEARCH · 1 ИСТОЧН. · Apple Machine Learning Research

Теоретические пределы согласования языковых моделей

В работе получены информационно-теоретические пределы улучшения награды при фиксированном бюджете KL-дивергенции для KL-регуляризованного согласования: закрытая форма, управляемая дивергентностью Джеффриса, и представление в виде ковариации по базовой модели, дающее практический оценщик. Показано, что разрыв при использовании прокси-наград (reward hacking) растёт с ошибкой в награде и при уменьшении KL-пени, доказано, что объединение наград (reward ensembling) уменьшает reward hacking, и эмпирически best-of-N почти достигает теоретического фронтира KL–награда, тогда как PPO и GRPO остаются существенно неоптимальными на задачах безопасности и суммирования.

7.0

RESEARCH · 1 ИСТОЧН. · Apple Machine Learning Research

Evaluating the Evaluators: судьи-LLM часто расходятся с людьми в оценке персонального стиля письма (NeurIPS 2026)

Статья (принята на воркшоп Can We Trust AI Evaluation? на NeurIPS 2026) исследует, насколько хорошо LLM выступают в роли судей для персонализированных заданий по длинным текстам. Авторы сгенерировали ответы четырьмя LLM для трёх задач, собрали парные человеческие предпочтения и сравнили их с ранжированиями LLM-судей; они обнаружили слабую корреляцию качества судей с общей способностью (MMLU ρ ≤ 0.2), вариативность по задаче и цели оценки, большую согласованность при парных сравнениях и то, что самые мощные LLM не всегда наиболее согласуются с людьми.

6.0