Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

ТЕМА · ENTITY #592

large language models (LLMs)

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

63

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Кейс‑стади: ChatGPT часто даёт содержательные инструкции по слежке (arXiv:2610.40890v1)

Анонсированный препринт на arXiv (arXiv:2610.40890v1) исследует, как публичный веб‑интерфейс ChatGPT может помогать в задачах, связанных со слежкой. Авторы разработали таксономию из семи категорий рисков, применили 110 промптов (55 «джейлбрейк», 55 прямых) и вручную проанализировали ответы: ChatGPT дал содержательные инструкции по слежке в 40 из 55 джейлбрейк‑запросов и в 33 из 55 прямых, иногда предоставляя подробный код или архитектурные указания даже при наличии формальных отказов или этических оговорок.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

P-ContextBench: бенчмарк понимания персонального контекста LLM (arXiv:2610.40959v1)

P-ContextBench — реалистичный, проверяемый и масштабируемый бенчмарк для оценки того, как LLM работают с фрагментарным и приватным персональным контекстом: он строит цифровых людей, основанных на жизненных историях, и разбросывает характеристики по синтетическим записям мобильных приложений. В статье на arXiv (arXiv:2610.40959v1) приведены 100 персонажей с 10 088 скрытыми фактами, 18 261 фрагментом журналов приложений и 4 810 проверенными тест-кейсами по пяти способностям; авторы показывают слабые результаты современных моделей по ряду задач (ниже ~60% по некоторым возможностям и менее 10% тестов правильно во всех трёх ключевых повторных запусках).

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

CIRCE предсказывает сложность задач для LLM по структуре ограничений

CIRCE — метод, который с помощью дешёвого LLM строит промежуточное представление ограничений (Constraint Intermediate Representation), детерминированно компилируемое в граф ограничений, и затем использует GNN-энкодер для предсказания способности LLM решить задачу. На семи наборaх задач по рассуждению (включая SAT, логику и математику) и четырёх LLM случайно инициализированный GNN улучшил отрицательное логарифмическое правдоподобие (0.465 → 0.423) и AUROC (0.691 → 0.727) по сравнению с сильнейшими базовыми методами.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Социодемографические сигналы умеренно улучшают моделирование плюралистической оскорбительности, особенно после агрегации и при явном рассуждении

В статье (arXiv:2610.37896v1) исследуется, когда и как информация о социодемографии аннотаторов помогает при моделировании плюралистической оскорбительности на трёх наборах данных с несколькими аннотаторами и с LLM. Авторы показывают, что прирост от демографии мал и непоследователен на уровне отдельных предсказаний, но становится заметным на уровне групп/популяции после агрегации; явное разложение предсказания на базовую оценку и демографическое отклонение и использование рассуждения дают лучшие оценки и итоговые предсказания по сравнению с простым кондиционированием.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

GARDEN: генералистский дизайн вознаграждений через LLM для кооперативного MARL

В статье представлен GARDEN (Generalist Autonomous Reward Design through Evidence Navigation) — метод, где большие языковые модели выступают автономными инженерами вознаграждений, создавая единый программный критерий вознаграждения, который переносится без изменений на близкие кооперативные сценарии MARL. На невиденных сценариях из наборов Overcooked и SMAX GARDEN повысил вознаграждения задач на 58.2% и 52.5% по сравнению с дефолтными, а средний процент побед в двух боевых сценариях вырос с 51.0% до 89.9%, превзойдя фиксированную диагностическую обратную связь и подход, вдохновлённый Eureka, при сопоставимых ресурсах.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Онтология-ориентированная многопользовательская система для объяснимой дифференциальной диагностики

Новая статья на arXiv (arXiv:2610.36325v1) предлагает онтология-ориентированную многопроцессную систему, которая привязывает дифференциальную диагностику к экспертной базе знаний, разбивает выводы на проверяемые шаги и генерирует целевые вопросы для снижения неопределённости; авторы отмечают повышенную прозрачность и снижение «галлюцинаций», исходный код опубликован. Подход ограничивает выводы моделью только подтверждёнными ассоциациями и имитирует итеративный клинический опрос.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

GEMS-RAG: графо-основанная мультимодальная RAG для инженерных нормативов

GEMS-RAG — это фреймворк, который объединяет иерархический парсинг, детектирование визуальных сущностей, построение мультимодальной графовой базы знаний и графо-ориентированный гибридный поиск для обоснованного вывода по сложным мультимодальным инженерным нормативам. На примере Manual on Uniform Traffic Control Devices (MUTCD) GEMS-RAG показывает улучшение качества поиска релевантных данных и ответов на вопросы по сравнению с текстовыми, мультимодальными и графовыми RAG-базами.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

BoardSafety — бенчмарк для оценки LLM по безопасности плат на основе документации производителя

Бенчмарк BoardSafety (arXiv:2610.33448v1) преобразует datasheet и руководства производителя в набор правил безопасности для конкретных плат и размеченные сценарии операций (безопасно, небезопасно, недостаточно информации) для проверки, могут ли LLM оценивать безопасность предлагаемых действий. Оценки с разным доступом к правилам и использованием структурированного объяснения показывают, что доступ к правилам обычно повышает точность, но современные модели по-прежнему не дают надёжных решений по безопасности.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Статья предлагает «ограниченную семантическую инвариантность» и привязку к КГ для повышения согласованности LLM

Новая статья на arXiv формализует согласованность LLM как «семантическую инвариантность» по классам эквивалентных запросов, показывает недоказуемость инвариантности для произвольных смыслосохраняющих преобразований и вводит ограниченную (scoped) инвариантность в пределах ограниченных семантических доменов. Авторы реализуют подход с помощью графов знаний (КГ), сообщая, что несогласованности концентрируются в локальных подсетях (структуры TREE, STAR, CYCLE) в MITRE D3FEND и восьми доменах из Wikidata, и что селективная многоуровневая привязка к графу улучшает корректность и межмодельную согласованность, тогда как бесконтрольная привязка иногда ухудшает результаты.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

BenchBench-Cloning: бенчмарк для планирования молекулярного клонирования языковыми моделями

Авторы опубликовали BenchBench-Cloning (arXiv:2610.33355v1) — бенчмарк из 65 задач для больших языковых моделей, ориентированный на сквозное планирование молекулярного клонирования: 50 задач по разработке протоколов оцениваются через выполнение в симуляторе клонирования, 15 задач по проектированию конструктов — детерминированными проверками и оценкой по рубрике с участием LLM. Среди восьми протестированных систем GPT-6 Astra показала лучший результат — 30,6% (остальные 8,6–22,2%), при этом бенчмарк остался не насыщенным при подборе из десяти попыток, что подчёркивает сохраняющиеся трудности в планировании экспериментов.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Как построить современную диффузионную языковую модель (arXiv:2610.33391v1)

Новый препринт на arXiv представляет обзор подходов дискретной диффузии для языковых моделей, описывая основы, алгоритмические и архитектурные компоненты, а также приложения в биологии и обработке языка. В работе отмечается, что дискретная диффузия позволяет генерировать токены параллельно (что дает более быстрое инференс), поддерживает исправление ошибок и управляемую генерацию, и обсуждаются последствия для законов масштабирования LLM.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Оптимизация данных для LLM: обзор на arXiv (2610.33405v1)

Новый обзор на arXiv (arXiv:2610.33405v1) предлагает единую структуру для оптимизации данных в больших языковых моделях: рассматривает проблемы данных при обучении и выводе, вводит измерения восприятия данных (качество, сложность, разнообразие, избыточность), классифицирует методы на отбор данных, аугментацию, перенвес и прочие, а также анализирует взаимосвязи и определяет открытые задачи и направления исследований.

5.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Всеобъемлющая структура для всех этапов обучения больших моделей (arXiv:2610.33451v1)

Этот препринт на arXiv предлагает единую деление этапов и шестимерную аналитическую структуру (данные, функция цели, оптимизация, системные ограничения, оценка, риски/управление), охватывающую данные/токенизацию, предобучение и посттренировочную адаптацию для LLM и MLLM, и систематически ревьюирует 395 ссылок (2017–2026). Авторы приводят карту кросс-этапных эффектов, дерево решений, как минимум десять проверяемых открытых проблем и три ключевых вывода: сопоставимость законов масштабирования зависит от качества/смешения данных; методы выравнивания предпочтений (RLHF, DPO) и RL с верифицируемыми наградами меняют границы постобучения; мультимодальная тренировка ставит проблемы в дизайне токенизаторов, целевых функциях и оценке.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Test-Time Memory Evolution (TTME) превосходит Test-Time Training в задачах научного открытия

В работе arXiv:2610.32046v1 предложен Test-Time Memory Evolution (TTME) — адаптационный метод во время тестирования, который обновляет внешнюю память (не веса модели) через дистилляцию опыта. При оценке в той же системе, что и Test-Time Training (TTT), TTME превосходит TTT на пяти математических задачах и сокращает количество операций (FLOPs) на 82.8–84.6% и время выполнения на 47.7–58.4%.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

DIVA: принятие решений при поиске информации для LLM

Новая статья на arXiv (arXiv:2610.32181v1) предлагает Decision-Informed Value-of-information Acquisition (DIVA) — обучение не требующую процедуру, в которой LLM формирует небольшую числовую модель решения и оценивает проверочные запросы по тому, сколько они улучшают полезность решения с учётом их затрат, останавливаясь, когда ни одна проверка не оправдывает затрат; вариант DIVA-U дополнительно учитывает неопределённость оценок. По результатам на четырёх доменах и 20 LLM, метод показывает меньшее сожаление при принятии решения, чем все базовые методы (в синтетике — сокращение сожаления на 75% при известных надёжностях проверок); код доступен на github.com/seunghan96/diva.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Каждый пример имеет одинаковый вес? Эффект порядка в многократной обработке LLM (arXiv:2610.29057v1)

Этот препринт на arXiv исследует 15 LLM на задаче агрегации бинарных меток по множеству примеров и показывает значительную чувствительность к порядку входов: точность может меняться примерно на 90 процентных пунктов между семью протестированными шаблонами порядка (пять наборов данных). Авторы отмечают, что модели обычно лучше работают, когда примеры большинства идут первыми, а трассировки рассуждений и градиентная атрибуция чаще подчёркивают ранние (и иногда конечные) позиции больше, чем средние.

7.0

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

InfoQ публикует серию статей «Agentic AI Architecture» о проектировании систем на базе LLM

InfoQ опубликовал серию статей «Agentic AI Architecture», где эксперты рассматривают новые архитектурные паттерны, возникающие под воздействием LLM и агентных систем — декомпозицию решений, режимы отказов, наблюдаемость, контекстную инженерию и практические фреймворки; сборник доступен в виде eMag PDF. Среди авторов — Маллика Рао, Картик Рамгопал, Ади Полак, Субаш Нараяна, Ахилан Поннусами и Рафаł Ганкарж.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Industrial Agentic AI: препринт на arXiv о агентных системах на базе LLM для умного производства

Новый препринт на arXiv (arXiv:2610.26941v1) даёт систематический обзор промышленных агентов на базе LLM: анализирует пять ключевых проблем, определяет основные характеристики и предлагает единую таксономию сценариев применения, форм воплощения и пяти уровней возможностей. Работа предлагает четырёхслойную системную архитектуру с описанием модулей и механизмов для замкнутого исполнения задач, рассматривает примеры применений на протяжении промышленного цикла и обозначает направления дальнейших исследований.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

MAMath-Bench: процессно-ориентированный мультимодальный бенчмарк для многопользовательского математического рассуждения (arXiv:2610.26943v1)

MAMath-Bench — процессно-ориентированный бенчмарк для оценки мультимодального математического рассуждения в многопользовательских системах, опубликованный Mira AI Lab (статья arXiv:2610.26943v1). Включает 1 003 задачи по 11 категориям и нескольким модальностям (текст, изображения, аудио) с детальными метками промежуточных шагов для оценки правильности, надёжности процесса рассуждения и устойчивости к враждебным искажениям; тестирование показало, что сотрудничество агентов не всегда повышает точность конечных ответов, увеличивает покрытие промежуточных шагов, но может ввести избыточность и остаётся уязвимым к тонким структурным атакам. Набор доступен в репозитории AgentMath на GitHub.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

SpaRLax: разреженная RL‑релаксация улучшает soft Chain-of-Thought рассуждения

В статье на arXiv (2610.27220v1) предложен SpaRLax — метод разреженной релаксации для RL‑подобного обучения soft Chain‑of‑Thought (soft‑CoT). SpaRLax применяет entmax для адаптивного управления разреженностью, что позволяет пропускать градиенты через soft‑токены во времени; авторы сообщают наивысший средний результат по сравнению с базовыми методами на девяти бенчмарках по рассуждению и показывают вклад адаптивной разреженности и суперпозиции soft‑токенов.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Magnolia: фреймворк с постоянной памятью для вычислительной химии

Magnolia — это агентный фреймворк с постоянной памятью, который объединяет LLM‑поддержку с вычислительными химическими процессами (докинг, молекулярная динамика, квантовая химия), электронными лабораторными журналами и чат‑логами через трёхуровневую память (сессия → проект → межпроектные правила). Авторы показывают четыре кейса (оценка ароматических систем из COMPAS, MD бутана и модифицированной ДНК, докинг белок‑пептид), отмечая 317 запущенных прогонов, 116 проектных записей, четыре повышенных межпроектных правила и улучшенные показатели в повторных контролируемых запусках по сравнению с версиями без памяти.

7.0

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

InfoQ: Агентный ИИ меняет дизайн распределённых систем — от микросервисов к декомпозиции решений

Статья на InfoQ утверждает, что прогресс в LLM и системах рассуждения приводит к переходу от архитектур на основе микросервисов к агентным системам, которые декомпозируют решения, а не функциональность. Агентные системы вводят недетерминированные пути выполнения, ставят качество принятия решений в центр проблем надёжности и требуют подходов вроде ограниченной автономии, циклов оценки и детерминистских запасных вариантов.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

GlobeBench: бенчмарк для оценки текстовых моделей мира на 1 632 задачах

В работе на arXiv (arXiv:2610.22708v1) представлен GlobeBench — бенчмарк из 1 632 задач в пяти доменах и 19 навыках симуляции для оценки текстовых моделей мира, которые предсказывают отклики среды по траекториям агента. Авторы протестировали 20 моделей (общего назначения и специализированных), указали GPT-6 Astra как лучший вариант с 49,57% успешных задач, отметили резкое падение точности при распространении эффектов действий на зависимые объекты (в среднем 5,1%) и выявили 631 задачу, не решённую ни одной моделью.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

C-тест со ссылкой на LLM на основе меры Левина (Kt) для сертификации высоко-сложных задач (arXiv:2610.14005v1)

В статье предложен тест на основе меры Левина (Kt), где большие языковые модели используются как референтные универсальные машины Тьюринга; формализована шкала сложности в битах и описан лёгкий конвейер генерации и сертификации заданий. Авторы подготовили первую батарею сертифицированных задач, протестировали её на двенадцати LLM и утверждают, что метод позволяет получать свежие высоко-сложные задания в «супра-интеллектуальном» окне, превосходящем возможности людей и современных передовых моделей.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

SAT-RL: обучение больших языковых моделей взаимодействию с символьными решателями через reinforcement learning

В статье представлен SAT-RL — фреймворк на основе RL, обучающий большие языковые модели многошаговому взаимодействию с символьными решателями выполнимости (например, Z3). Метод использует синтетические данные с проверяемыми решениями, супервизированную подготовку на трассах с вызовами решателя и вознаграждения, учитывающие инструменты; авторы сообщают о заметных улучшениях на задачах логического вывода как в домене, так и вне него; код опубликован в указанном репозитории GitHub.

7.0

RESEARCH · 1 ИСТОЧН. · MIT News AI

Деб Рой (MIT CCC) призывает к ответственности за тексты, сгенерированные ИИ, в гражданских обсуждениях

Деб Рой, директор Центра конструктивной коммуникации при MIT, в эссе в Bulletin of the Atomic Scientists под названием «Кто стоит за словами?» утверждает, что в гражданских обсуждениях необходима чёткая человеческая ответственность и «подотчётность», даже если текст создаётся с помощью ИИ. Он предупреждает, что правдоподобные комментарии, сгенерированные ИИ (например, через ChatGPT и другие LLM), могут подорвать процесс публичных отзывов; CCC совместно с Cortico применяют ИИ для выявления тем, но выстраивают процессы так, чтобы люди могли проверять, менять и нести ответственность за публичные высказывания.

6.0

MODELS · 1 ИСТОЧН. · The Decoder

Карпаты: внешний мир увидел лишь «превью» ИИ; узкая группа видит передовые возможности

Андрей Карпаты, сооснователь OpenAI, перешедший в Anthropic, заявил, что общественное восприятие чатботов занижает реальные возможности ИИ. По его оценке, около 6 млрд человек почти не сталкивались с LLM, 1–2 млрд — случайные пользователи, примерно 20 млн — профессионалы, использующие передовые модели в математике и программировании, и лишь около 5 тыс. имеют доступ к внутренним системам уровня «фронтира», демонстрирующим возможности, значительно превосходящие привычные чатботы.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

EliteTable: самоулучшающийся поиск программ под управлением LLM для политик управления (arXiv:2610.12536v1)

EliteTable — алгоритм поиска программ под руководством больших языковых моделей, который хранит таблицу высоко оценённых решений для создания, редактирования и смешивания кандидатов исполняемых управляющих программ. В эксперименте на шести задачах Gymnasium (по 10 поколений, 50 кандидатов на поколение, 10 независимых запусков) медианы оценок кандидатов выросли во всех задачах, медианы победителей — в пяти; в CartPole-v1 победители сразу достигли потолка оценки, BipedalWalker-v3 и CarRacing-v3 улучшились, но не достигли целей, а в Acrobot-v1 результаты на отложенных эпизодах были смешанными/отрицательными; авторы подчёркивают необходимость сравнений и абляций для уточнения вклада компонентов.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Пайплайн на LLM превращает технические даташиты в иерархические графы знаний с высокой достоверностью (arXiv:2610.12762v1)

В статье предложен автоматизированный поэтапный пайплайн, использующий LLM для извлечения по чанкам, иерархической маршрутизации и итеративного уточнения с построением источнико-основанных иерархических графов знаний по даташитам. На 20 даташитах метод показывает 98,8% точности свойств против 76,1% у одношотного базиса и значительно более высокую межграфовую полноту (он полностью покрывает 83,6% верных свойств базиса, тогда как базис покрывает лишь 10,5% свойств этого метода).

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Representation Geometry Regularization (RGR) снижает деградацию возможностей при самоулучшении LLM

Статья (arXiv:2610.12855v1) описывает проблему в On-Policy Self-distillation (OPSD): по мере обучения модели могут терять ранее усвоенные способности из‑за ухудшения геометрии скрытых представлений (меньшая компактность кластеров и разделение между ними). Авторы предлагают Representation Geometry Regularization (RGR) — регуляризатор для пост‑тренировки, сохраняющий геометрию представлений; эксперименты на нескольких OPSD‑методах показывают, что RGR обычно уменьшает деградацию возможностей при сохранении общих улучшений, код опубликован на GitHub.

6.0