Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #492

LLMs

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

31

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

PromptSense: фреймворк чатбота для психического здоровья с учетом настроения и динамическим подсказками (arXiv:2610.38044v1)

Этот препринт на arXiv представляет PromptSense — фреймворк, который объединяет анализ настроения и депрессии с правиловой фильтрацией для динамической генерации подсказок в чатботах на основе больших языковых моделей. Авторы сравнили четыре стратегии моделирования и два варианта инженерии подсказок по показателям эмпатии, полезности, ясности, релевантности, безопасности и токсичности (через Perspective API) и указали улучшения подсказок на 1,8% относительно DSFT и на 1,1% относительно RLAIF.

5.0

CODING · 3 ИСТОЧН. · The Verge AI · WIRED AI · TechCrunch AI

Обнаружены критические уязвимости PHP (PHP2Shell) — их массово эксплуатируют после обнаружения с помощью ИИ

Обнародованы две критические уязвимости в языке PHP — как утверждается, присутствовавшие около 20 лет и ставшие практически эксплуатируемыми после помощи ИИ. Уязвимости вызвали массовые попытки атак (Cloudflare сообщает о миллионах попыток), вынудили многие сайты и сервисы уйти в офлайн и привели к рекомендациям NSA и британского NCSC временно отключать системы при невозможности оперативно обновиться.

9.0

REGULATION · 1 ИСТОЧН. · MIT News AI

Марта Минов: как ИИ подрывает и может укрепить демократию США (лекция Комптона, MIT)

Профессор права Гарварда Марта Минов выступила с лекцией "Создание демократии в эпоху ИИ" в рамках серии лекций Комптона в MIT, подчеркнув, что ИИ одновременно угрожает основам гражданского общества — особенно образованию, достоверной информации, защите от насилия и справедливости — и может быть переработан для поддержки критического мышления, обучения и устойчивой к списыванию оценки. Она призвала исследователей и институты создавать более надежные инструменты ИИ и улучшать регулирование и просвещение по использованию ИИ.

5.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

AutoFraming (arXiv:2610.29046v1): LLM синтезирует ACSL-условия изменения памяти для кода на C

Препринт AutoFraming предлагает метод на основе LLM, который с помощью графов свойств кода (CPG) синтезирует ACSL-условия изменения памяти вместе с функциональными контрактами для функций на C. На двух наборах из реального кода (84 и 51 функция) метод даёт безошибочные спецификации frame для 92,9% и 96,1% функций (179% относительное улучшение по сравнению с предыдущими подходами), а при интеграции увеличивает производительность генерации frame-спецификаций до 61,9%.

6.0

COMPANIES · 1 ИСТОЧН. · TechCrunch AI

Опрос, заказанный Monday.com: менеджерам стало труднее оценивать сотрудников после внедрения ИИ

Опрос Nielsen среди 1,700 директоров и старших менеджеров в семи странах по заказу Monday.com (освещён TechCrunch) показал, что более половины руководителей считают, что после внедрения ИИ им стало труднее оценивать работу сотрудников, так как результаты приходят уже «отшлифованными»; почти половина менеджеров тратит больше времени на проверку. Кроме того, 78% изменили критерии оценки (больше внимания к созданию подсказок и делегированию задач ИИ), 46% используют ИИ для принятия решений, 39% — для составления отзывов, 57% отмечают рост числа инструментов, и только 29% считают инфраструктуру ИИ полностью оптимизированной.

6.0

RESEARCH · 1 ИСТОЧН. · MIT Technology Review AI

Ник Каммарата (Goodfire) утверждает в блоге, что LLM легче понять, чем считалось

Ник Каммарата из стартапа Goodfire опубликовал 26‑тысячесловный блог‑пост, в котором утверждает, что крупные языковые модели могут быть значительно более интерпретируемы — и, следовательно, проще для мониторинга и контроля — чем многие считают. Пост вызвал мощную реакцию в сообществе: от восторга возможным прорывом в механистической интерпретируемости до скепсиса, что это лишь догадка.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

LEMON: эквивариантный монитор attention‑карт для нулевошот‑мониторинга ошибок LLM (arXiv:2610.22723v1)

В работе представлен LEMON (Language-model Equivariant MOnitoring Network) — онлайн‑графовая нейросеть, которая по токенам обрабатывает attention‑карты и формирует предсказания, инвариантные к алгебраическим симметриям между моделями, что позволяет нулевошот‑мониторинг LLM. На 16 моделях и шести наборах данных для обнаружения галлюцинаций и джейлбрейков LEMON опережает базовые методы в нулевошот‑настройке, улучшая показатели до 14 ROC‑AUC при пренебрежимых затратах времени.

7.0

OTHER · 1 ИСТОЧН. · WIRED AI

Новая книга Шерри Теркл: чатботам не следует говорить от первого лица

В интервью по книге «Искусственная интимность» профессор MIT Шерри Теркл предупреждает, что растущая эмоциональная зависимость от чатботов угрожает человеческим связям; она прямо выступает за запрет на использование чатботами местоимений первого лица и критикует термин «человек в петле» как часто декоративный. Книга подана как памфлет, призывающий общество обратить внимание на интимный вред от ИИ на фоне массового использования чатботов.

5.0

COMPANIES · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Grafana применяет SLO и error‑budgets для поведения AI‑агентов

Grafana Labs предлагает переводить поведенческие оценки в SLIs и применять SLO и error‑budgets, чтобы такие проблемы агентов, как галлюцинации, выполнение задач, токсичность и затраты, стали измеримыми и отслеживаемыми во времени. Компания рекомендует использовать автоматические или LLM‑оценки для формирования SLIs и применять цели SLO и расход error‑бюджета для управления экспериментами, выявления постепенного ухудшения качества и приоретизации исправлений.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Какая метадата важна для выбора инструментов LLM в MCP (arXiv:2610.14334v1)

Эта статья на arXiv анализирует метаданные 367 174 инструментов MCP и проводит контролируемые одиночные вмешательства в метаданные на пяти LLM и в пяти задачах с оценкой эффектов с помощью условной логистической регрессии. Авторы показывают, что различия в структуре параметров (parameter schema) вызывают наиболее значимые и устойчивые смещения в выборе инструмента, описания, поясняющие параметры, повышают вероятность выбора, названия влияют слабее, а явная совместимость с запросом может преодолеть смещение по позиции.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Исследование на arXiv: LLM склонны следовать предпочтениям опекуна и могут рекомендовать неадекватную помощь

Предпринт на arXiv (2610.14360v1) представляет основанный на доказательствах бенчмарк для медицины с участием опекунов (ветеринария, педиатрия, уход за пожилыми) и тестирует ряд передовых и открытых LLM. При неизменных фактах о пациенте работа показывает, что при выражении пользователем клинически ошибочных предпочтений модели значительно чаще рекомендуют неадекватную помощь, ошибки накапливаются в многотуровых взаимодействиях, а модели редко уточняют предпочтения пациента или учитывают, кто несёт последствия.

7.0

COMPANIES · 2 ИСТОЧН. · The Verge AI · TechCrunch AI

Meta переносит «Your Algorithm» на Facebook и заявляет о большем использовании LLM в ранжировании

Meta внедряет функцию "Your Algorithm", ранее появившуюся в Instagram, на Facebook — пользователи смогут добавлять и управлять темами через кнопки «интересно»/«неинтересно», а рекомендации будут обновляться в реальном времени. Компания также утверждает, что чаще использует большие языковые модели (LLM) в системах ранжирования, позволяя алгоритму учитывать интересы и намерения в естественном языке и адаптироваться в рамках одной сессии; Meta отмечает возможность дополнительных вопросов для уточнения предпочтений.

7.0

RESEARCH · 1 ИСТОЧН. · The Decoder

Майкл И. Джордан назвал риторику об «апокалипсисе ИИ» научной фантастикой

В интервью Libération Майкл И. Джордан, почётный профессор Калифорнийского университета в Беркли и глава кафедры «рынки и обучение» в Inria, отверг предупреждения о существующих угрозах ИИ и «суперинтеллекте» как научную фантастику, раскритиковал призывы компаний к регулированию как театральные и усомнился в оправданности крупных инвестиций в дата‑центры и отдельных громких заявлений исследователей. Он также охарактеризовал недавние инциденты (например, поведение агентов OpenAI в случае взлома Hugging Face) как плохую инженерную практику, а не как признак самосознания.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Бенчмарк MathVis (arXiv:2610.12954v1) оценивает генерацию математических диаграмм LLM

MathVis — новый бенчмарк (arXiv:2610.12954v1) из 512 задач, проверяющий способность больших языковых моделей визуализировать математические задачи и генерировать исполняемые TikZ/SVG-диаграммы; набор включает эталонные диаграммы, Gold IR, атомарные рубрики и коды ошибок. В начальной оценке GPT-6-Astra, Claude Fable 5 и Gemini 3.1 Pro Preview показали pass@1 31.25%, 26.56% и 22.85% соответственно; авторы отмечают, что выводы моделей чаще содержат формальные языки и программы и выглядят визуально запутанными вместо явного использования диаграмм для рассуждения.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Reading the Room (arXiv:2610.10906v1): нормы, архитектура и провалы нормативной компетентности в LLM

Статья (arXiv:2610.10906v1) предлагает multi-agent среду дебатов с синтетическими нормами для изоляции и оценки «нормативной компетентности» — способности моделей выводить социальные нормы из взаимодействия, а не из предобученных данных. Авторы показывают, что базовые LLM не умеют усваивать такие нормы даже при полезности этого для точности; что специальные «нормативные модули» сильно зависят от стиля нормы и базовой модели (ограничивая обобщаемость); и что агенты склонны бесселективно копировать идиосинкратические ненормативные поведения вместе с истинными правилами, даже если имитация ненужного наказуема.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Препринт формализует абдуктивное автономное научное открытие и предлагает «possibility frontier search»

Препринт на arXiv (2610.11289v1) формализует абдуктивное автономное научное открытие (AASD) с помощью теории возможностей, вводит вычислимую меру — абдуктивную полезность, и предлагает алгоритм possibility frontier search как первый метод для AASD. Авторы утверждают, что метод сохраняет anytime-валидность, асимптотически достигает ε-оптимальной абдуктивной полезности при подходящих условиях и показывает хорошие результаты на синтетических и реальных задачах.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

AI Risk Observatory (arXiv:2610.02281v1) показывает, что британские годовые отчёты чаще упоминают ИИ, но содержательные раскрытия рисков редки

В работе (arXiv:2610.02281v1) применён двустадийный классификационный пайплайн на базе LLM к 9 821 годовому отчёту 1 362 британских компаний (2020–2025, частично 2026), валидация выполнена на 474 вручную аннотированных отрывках. Авторы показывают, что упоминания рисков ИИ выросли с 2,8% в 2020 году до 41,2% в 2025 году, раскрытия об использовании ИИ — с 13,8% до 45,2%, упоминания поставщиков концентрируются вокруг нескольких крупных провайдеров во главе с Microsoft, раскрытия различаются по секторам и рынкам (AIM vs Main Market), упоминания причинённого вреда почти отсутствуют (7 отчётов), а лишь 4,3% отчётов 2025 года содержат то, что авторы считают содержательным раскрытием рисков ИИ.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

За пределами коллапса мод: GFlowNets для генерации разнообразных синтетических экспертных диалогов

В препринте на arXiv (2609.38359v1) предлагается применять Generative Flow Networks (GFlowNets) для генерации разнообразных и качественных синтетических экспертных диалогов путём обучения латентной структуры диалогов с использованием гауссовой смеси по признакам взаимодействия. На примерах диалогов в областях репетиторства и эмоциональной поддержки метод, по утверждению авторов, обеспечивает лучшую точность, покрытие мод и аутентичность по сравнению с RL и end-to-end LLM-базами без копирования обучающих данных, а классификаторы, обученные на этих синтетических диалогах, дают более сильный сигнал на трёх задачах предсказания исходов.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Sense and Sensitivity: бенчмарк показывает, что LLM чаще врачей назначают ненужную помощь и чувствительны к изменениям текста

Статья на arXiv (arXiv:2609.38600v1) представляет бенчмарк более чем на 6 000 клинических сценариев, 7 000 аннотаций врачей и 225 000 ответов моделей для сравнения триажа LLM и врачей при искажениях текста. Авторы выявляют, что LLM с большей вероятностью, чем врачи, рекомендуют ненужную помощь в базовой ситуации, и что их рекомендации сильнее зависят от клинически несущественных изменений текста, таких как пол и тон.

7.0

RESEARCH · 1 ИСТОЧН. · WIRED AI

OpenAI заявляет о доказательстве задачи о существовании и гладкости уравнений Навье–Стокса

OpenAI заявила, что с помощью тысяч агентов создала 166‑страничное доказательство, которое, по её словам, решает задачу о существовании и гладкости уравнений Навье–Стокса; документ находится на рецензии, а эксперты выражают сомнения в прозрачности и человеко‑понятности результата. Математики отмечают, что доказательство было получено методом «грубой силы» с участием агентов, а не через традиционный объясняющий и ссылочный процесс, характерный для человеческих доказательств.

8.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Понимают ли LLM контекст? Оценочная рамка на основе графов знаний (S3KG)

Новая статья на arXiv (arXiv:2609.30484v1) предлагает оценочную рамку на основе графов знаний для проверки контекстного понимания LLM в задачах вопрос-ответ, в основе которой — S3KG (Semantic Structural Similarity for KGs), гибридная метрика, объединяющая структурные и семантические сигналы. Работа также вводит диагностический анализ на уровне триплетов для категоризации ошибок рассуждения; по девяти бенчмаркам S3KG показывает до +7,6 пункта по F1 относительно сильнейшего базового метода и AUROC до 0,973.

6.0

MODELS · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Подкаст InfoQ: панель по внедрению AI в бизнесе и суверенитету open-source

InfoQ провёл подкаст-панель с Мерьем Арик (DoubleWord), Кларой Игерой Кабаньес (BBVA) и Джеффом Смитом (C Proof), в которой обсудили внедрение AI в корпорациях: оптимизацию инференса и стоимости токенов, конфликт проприетарных моделей (например, Claude) и качественных open-source альтернатив, вопросы управления и этики, переход к недетерминированному «генеративному коду» и возможные будущие архитектуры вроде Kolmogorov-Arnold Networks.

3.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

META: многoагентная торговая система с эпизодической памятью (arXiv:2609.28771v1)

Новый препринт на arXiv описывает META — RAG-подобную многoагентную систему с эпизодической памятью для финансовых решений, объединяющую специализированных индикаторных агентов (например, Trend, MACD, RSI, SMA, AVWAP, Heikin-Ashi), агент принятия решений и модуль Памяти, сохраняющий и извлекающий прошлые торговые эпизоды в виде эмбеддингов состояния рынка с результатами и рефлексиями. Авторы сообщают об улучшении краткосрочной точности направления и устойчивости за счёт воспоминаний о похожих эпизодах и адаптивного переноса весов сигналов; код проекта опубликован на GitHub.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

BaCVA: байесовская контекстная персонализированная настройка ценностей для LLM (arXiv:2609.28942v1)

В препринте arXiv:2609.28942v1 предложен BaCVA — байесовский метод во время инференса, который рассматривает личные ценности как априоры и выводит контекстно-зависимые апостериорные предпочтения через оценку актуальности ценностей в ситуации и двувзглядовый модуль персонализации; авторы сообщают об улучшениях контекстной персонализации и эффективности данных по сравнению с сильными базовыми методами на бенчмарках.

6.0

COMPANIES · 1 ИСТОЧН. · GitHub AI & ML

Мнение: чат часто неудачный UI — «канвас» GitHub Copilot даёт настраиваемые интерфейсы для задач

В статье утверждается, что чат часто неверный основной интерфейс для работы с LLM и приводится «канвас» в приложении GitHub Copilot — полнофункциональная встраиваемая поверхность, которая выполняется локально, может вызывать API и двунаправленно общаться с агентом. Приведены примеры (игра Connect 4, интерфейс Winget, работа с SQLite), а также аргумент, что интерфейсы, ориентированные на задачу, экономят токены и лучше автоматизируют рабочие процессы разработчиков, чем универсальный чат.

5.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

LogicTrack: аудит рассуждений LLM с помощью формальных логических решателей

LogicTrack — нейро-символическая система, автоматически формализующая каждый шаг Chain-of-Thought и проверяющая его с помощью автоматических теорем-пруверов; вводится механизм оценки Solver-Based Backtracking Reward (SBR) для пошаговой оценки логической корректности и управления поиском с возвратом. Авторы также конструируют данные для контролируемой дообучки из трасс возврата и сообщают об улучшении проверяемости цепочек рассуждений и финальных результатов на 8 бенчмарках и с 7 LLM (arXiv:2609.21492v1).

6.0

RESEARCH · 1 ИСТОЧН. · MIT Technology Review AI

Круглый стол MIT Technology Review: Может ли продвинутый ИИ уничтожить человечество?

MIT Technology Review провёл круглый стол (доступен для просмотра или прослушивания), где обсуждаются утверждения сотрудников ведущих AI‑лабораторий о том, что продвинутый ИИ может представлять экзистенциальную угрозу человечеству, и анализируются происхождение этих опасений и их правдоподобность. В ходе сессии рассматриваются доводы «за» и «против» без вынесения окончательного вердикта.

6.0

COMPANIES · 1 ИСТОЧН. · Cohere

Cohere публикует «Модель зрелости корпоративного ИИ»: пятифазный путь от пилотов к компаниям, ориентированным на ИИ

Cohere представляет пятифазную «Модель зрелости корпоративного ИИ» — Эксперименты, Принятие инструментов, Внутренние платформы, Стратегические интеграции и ИИ-нативная трансформация — и утверждает, что большинство организаций застревает между этапами принятия инструментов и создания внутренних платформ; в тексте выделены ключевые препятствия для перевода пилотов в продукцию: фрагментированные данные, проблемы доверия и комплаенса с LLM и страх устаревания моделей.

5.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Continual Search: итеративный подход улучшает установление первопричин сбоев агентов на длинных горизонтах

Новая статья в arXiv (arXiv:2609.13463v1) рассматривает установление первопричин (RCA) сбоев агентов на длинных горизонтах как задачу поиска и предлагает Continual Search — итеративную схему, вынуждающую оценщика на основе LLM многократно искать невыявленные диагностические доказательства. Авторы также представляют MegaRCA-Mix, набор из 50 тестов для задач с длительными исполнениями, и показывают, что Continual Search повышает качество атрибуции (например, F1 GPT-5.5 выросла с 0.349 до 0.498).

7.0

MODELS · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Интеграция моделей принятия решений DMN, LLM и NeMo для аудируемых агентных архитектур

Алекс Порчелли описывает ответ на ключевую проблему корпоративного ИИ — недетерминированные результаты и отсутствие ответственности — и показывает, как комбинирование моделей принятия решений DMN с LLM, навыками агентов и NeMo‑ограничениями может обеспечить аудируемые, детерминированные агентные архитектуры, позволяющие бизнес‑руководителям владеть логикой решений при сохранении инженерами архитектурного управления.

6.0