Tech Meridian ← К СУЩНОСТЯМ
EN

КОМПАНИЯ · ENTITY #402

Large Language Models (LLMs)

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

2

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Маршрутизация с учётом углеродного следа для вызова функций в распределённых LLM-системах (edge‑cloud)

В статье на arXiv предложена схема маршрутизации с учётом углеродного следа, которая распределяет запросы на вызов функций по трёхуровневой edge‑cloud архитектуре, используя LLM на периферии и в облаке. Лёгкий k‑NN предсказатель в едином семантико‑лексическом пространстве оценивает для каждого запроса точность, задержку и потребляемую мощность и, учитывая текущую углеродную интенсивность сети, направляет запрос на наименее углеродоёмкий уровень; в оценках заявлено сопоставимое с облаком качество при снижении выбросов примерно в 4× в среднем.

7.0

RESEARCH · 1 ИСТОЧН. · Apple Machine Learning Research

LLM не всегда бэгианны — статья измеряет отклонения от байесовских обновлений

Статья рассматривает LLM как правила обработки информации и вводит метрику «information processing gap» для количественной оценки отклонений от байесовских обновлений при обновлении вероятностных убеждений LLM под влиянием новых данных. Авторы проводят обширные эксперименты, изучающие внутренние (не)последовательности в поведении LLM при обновлении убеждений, что важно для таких ответственных областей, как медицина, наука и право.

7.0