Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #2098

RoBERTa

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

2

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Рамка валидационно-ориентированного weak-supervision для бенчмарков психического здоровья и суицидальных высказываний в Bluesky

Новый препринт в arXiv (arXiv:2609.22696v1) предлагает pipeline с валидационно-ориентированным weak-supervision для создания бенчмарков по суицидальным высказываниям (SI) и более широким аспектам психического здоровья (MH) в децентрализованной платформе Bluesky. Система объединяет сбор public firehose, лексическое фильтрование, бинарную аннотацию с помощью Llama-3-8B, человеческую валидацию подвыборок и оценку трансформерных моделей, сформировав корпуса из 8 346 постов с метками SI и 9 988 постов с метками MH; эксперименты показывают сильную зависимость результатов от определения задач и протокола валидации, при этом BERT+LSTM, RoBERTa и DistilRoBERTa лидируют по разным метрикам, а ручная валидация выявляет, что в SI преобладают ложноотрицательные метки, а в MH — ложноположительные.

6.0

RESEARCH · 1 ИСТОЧН. · Google Research

Cappy: 360M-параметровый скорер на базе RoBERTa, который, по авторам, улучшает и адаптирует большие мультизадачные LLM без дообучения

Исследователи Google представляют Cappy — лёгкий (≈360M параметров) скорер на базе RoBERTa, обученный посредством непрерывного предобучения, который выдаёт оценку корректности (0–1) для пары инструкция–ответ. Авторы утверждают, что Cappy может работать самостоятельно для задач классификации или служить вспомогательным модулем для улучшения больших мультизадачных LLM и позволять адаптацию и учёт супервизии без обратного распространения ошибки и без доступа к параметрам модели (например, закрытые WebAPI).

7.0