LLM

2026-10-30

COMPANIES · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

DoorDash сократил время повтора заказа на продукты с ~16 с до ~2 с с помощью AI-агентов

DoorDash сократил задержку в потоке повторного заказа продуктов с примерно 16 с до 2 с, заранее вычисляя кандидатов на регулярные покупки (по 90 дням истории) с помощью пакетного вывода LLM, детерминированной валидации и сохранения повторно используемых данных списка покупок; путь обслуживания затем привязывает позиции к актуальному каталогу. Изменение удвоило просмотры списков и увеличило конверсию заказов примерно на 34%, опираясь на общую платформу агентов и интерфейс Ask DoorDash.

6.0

2026-10-26

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

InfoQ описывает эволюцию «agentic harnesses»: от цепочек к графам и коду

Статья на InfoQ рассматривает три парадигмы создания «agentic harnesses» для LLM — цепочки (линейные конвейеры), графы (явный контроль потока через узлы/рёбра) и код (первоклассное исполнение в песочнице) — и утверждает, что подходы эволюционировали от «склеенного» прототипа к промышленным, наблюдаемым архитектурам. В материале обсуждаются компромиссы (задержки, хрупкость, устойчивость) и даются рекомендации: считать выводы LLM ненадёжными, разделять планирование и исполнение и вкладываться в наблюдаемость и минимально сложные абстракции.

6.0

2026-10-21

MONEY · 1 ИСТОЧН. · OpenAI

OpenAI описывает создание рекламного стека ChatGPT на базе LLM для релевантности и доверия

OpenAI заявляет, что создала новый рекламный стек для ChatGPT на базе LLM, который определяет намерения в диалоге, отделяет рекламу от ответов ассистента и показывает релевантную рекламу в масштабе.

6.0

2026-10-21

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Многоцелевой RL обеспечивает парето-оптимальную генерацию RTL-кода с помощью LLM

В статье (arXiv:2610.26904v1) предложен метод многоцелевого обучения с подкреплением для генерации RTL с помощью LLM, нацеленный на покрытие множества Парето по показателям PPA (энергопотребление, производительность, площадь). Метод включает генеративную обучающую схему и функцию вознаграждения на основе вклада в гиперобъем (HVC); на бенчмарке RTLLM v2 он повышает относительный гиперобъем на +13.3 процентных пункта по сравнению с базой без PPA-оптимизации и на +14.4 пункта по сравнению с одноцелевым RL, одновременно улучшая разнообразие схем.

7.0

2026-10-20

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Инженеры Apple представили масштабируемую независимую от фреймворка инфраструктуру для AI‑агентов на Ray на QCon AI

На QCon AI инженеры Apple Дипак Моханакумар Чандрамоули и Бхумик Тхаккар рассказали о переводе AI‑агентов от локальных прототипов на FastAPI в устойчивые прод‑развёртывания на Kubernetes с помощью Ray, обсуждая топологию RayCluster, хранение состояния, авто‑масштабирование при динамическом трафике, дизайн контрольной плоскости, мульти‑региональные настройки, защитные механизмы и конвейер оценки с LLM в роли судьи; всё это проиллюстрировано примером планировщика путешествий и практическими наблюдениями по наблюдаемости.

4.0

2026-10-19

COMPANIES · 1 ИСТОЧН. · WIRED AI

Страницы справки WhatsApp раскрыли скрытые инструкции для чат‑бота Meta на базе LLM

Redact.dev обнаружила примерно 80 страниц справки WhatsApp, в коде которых скрывались около 100 текстовых блоков с инструкциями для большой языковой модели Meta (заголовок HelpContentGalaxyLLMInclude). После сообщения WIRED Meta удалила эти данные, которые включали «чего не говорить», в том числе явный запрет давать юридические советы или ссылаться на законы о защите данных.

7.0

2026-10-16

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Панель InfoQ: безшумные отказы ИИ и управление агентами

Вебинар InfoQ «AI in Production: What Breaks, What Works, and Who Approves It?» с участием экспертов ThoughtWorks и специалистов по безопасности/конфиденциальности разобрал реальные операционные проблемы агентных систем — семантический и эмбеддинговый дрейф, утечки через RAG, запоминание модели и проблема масштабирования ручного ревью кода. Панелисты рекомендовали воспринимать оценки как постоянную инфраструктуру, сдвигать проверки в фазу harness, применять mutation testing и непрерывный трассинг, назначать агентам отдельные идентичности и уровни доступа, проводить red‑teaming и изолировать секреты.

6.0

2026-10-14

STARTUPS · 1 ИСТОЧН. · AWS Machine Learning

Tamnoon создал Tami — агентную систему устранения уязвимостей в облаке на Amazon Bedrock

Tamnoon рассказывает, как создал Tami — AI‑ориентированного оркестратора устранения проблем в облаке на базе Amazon Bedrock и бессерверной инфраструктуры AWS; платформа собирает находки из CNAPP/CSPM, проводит расследование с проверкой через LLM, оценивает безопасность и генерирует защищённые исправления. По оценке Tamnoon, подход снизил критические облачные риски более чем на 90% за 90 дней без сбоев в продакшене и интегрируется с AWS, Azure, Google Cloud и существующими CNAPP-инструментами.

6.0

2026-10-12

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

VEPA: Verified Evolving Formal Policy — адаптивные верифицируемые правила для агентов LLM (arXiv:2610.12813v1)

В статье представлен VEPA — фреймворк, который описывает защитные правила в виде исполняемых символических правил над типизированными событиями агента и в ходе эксплуатации использует LLM для предложений исправлений, детерминированный верификатор и слой, активирующий правила только при достаточных доказательствах. На наборах ASSEBench-Safety, ASSEBench-Security и ATBench VEPA стабильно превосходит базовые методы и устойчив к смешанным потокам, искаженному фидбеку и длительной эксплуатации.

7.0

2026-10-07

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Amazon добавляет проверку ACL в реальном времени в Quick и Bedrock Knowledge Bases для RAG

Amazon реализовал двухэтапную модель контроля доступа для Amazon Quick и Amazon Bedrock Knowledge Bases: предварительная фильтрация по ACL в индексе и последующая проверка в реальном времени у авторитетных источников (например, Google Drive API с использованием имперсонации сервисного аккаунта), чтобы ответы RAG соответствовали актуальным правам доступа.

6.0

2026-10-05

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

THPL: От зрения к языку — система принятия решений по кормлению радужной форели в RAS

В препринте (arXiv:2610.02378v1) предложена THPL — система перевода визуальных данных в решения по кормлению радужной форели в системах рециркуляции воды (RAS). Метод извлекает траектории через Fishsort для расчёта коэффициента активности (AC), кодирует временное и групповое поведение с помощью иерархического кодировщика поведения (Temporal и Set Transformers) в два типа токенов (физические и «мягкие»), затем дообучает LLM с LoRA и контрафактуальным мультимодальным DPO; авторы сообщают сильную корреляцию AC с экспертной оценкой (Spearman ρ = 0.925, p < 0.001) и повышение точности решений с 33.33% (только текст) до 93.33% с двойными токенами и до 96.67% после mDPO, а также улучшения METEOR и метрик разнообразия.

6.0

2026-10-02

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

SciSlopBench и SciSlopHarness (arXiv:2610.00531v1): бенчмарки и смягчение «научного шлака» в статьях, сгенерированных ИИ

В статье на arXiv представлены SciSlopBench — набор из 390 статей, сгенерированных ИИ, сопоставленных с человеческими статьями, и шесть метрик по структуре, аргументации и артефактам для оценки «научного шлака» — случаев, когда отдельные части выглядят правдоподобно, но связующая научная логика нарушена. Авторы показывают, что их метрики распознают ИИ-статью в паре с точностью 85,9% (против 68,7% у Binoculars), что более высокий шлак связан с более низкими оценками ICLR и отклонениями в 2017–2025 годах, и предлагают SciSlopHarness — фреймворк для ревизии LLM, уменьшающий разрыв между ИИ и человеком на 63% по сравнению с сильнейшим базовым методом без использования человеческих эталонов.

7.0

2026-09-28

COMPANIES · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Презентация Forter: как 200 сотрудников R&D научились создавать AI‑агентов за две недели

На QCon AI главный инженер Forter Бен Мараней рассказал о двухнедельном внутреннем спринте, в ходе которого около 200 сотрудников R&D получили практический опыт создания AI‑агентов. Команда снизила барьеры, запустив собственный MCP‑сервер, сочетая no‑code и кодовые платформы, избегая сложных RAG‑настроек и согласовав действия с отделами безопасности и юристами для ускорения внедрения.

5.0

2026-09-24

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Аудит выявил 91 «тихую ошибку» во взаимодействии агентов и инструментов в ToolUniverse

Авторы в статье arXiv:2609.26836v1 описывают механизм аудита, который проверил 15 научных инструментов в среде ToolUniverse и выявил 91 «тихую ошибку», когда вызов инструмента возвращал неполную или отсутствующую информацию без уведомления агента или пользователя. Большинство ошибок зафиксировано на уровне API (51) и обёрток (25) — типичны отсутствующие поля и несоответствия в поиске/фильтрации/ранжировании; предложены концепция «контекстной надёжности» и меры по тестированию, раскрытию и мониторингу.

7.0

2026-09-15

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

GAVEL: протокол вынесения вердикта на основе LLM для сравнения и слияния клинических хронологий из клинических отчетов

Авторы представляют GAVEL — протокол на основе LLM, который сравнивает две извлеченные клинические хронологии с исходным клиническим отчетом и возвращает для каждой разницы тип несоответствия, вердикт и фрагмент отчета. В работе оценивают сопоставитель событий и анализируют 2 738 выводов от GPT5.6sol и DeepSeek V3.2, ранжируют шесть извлекателей на базе LLM и двух человеческих аннотаторов, а также тестируют слияние под управлением GAVEL: по 126 отчетам объединенные хронологии предпочитали в 77,0% сравнений, несоответствия, приписываемые проверяемой хронологии, сократились с 7.63 до 0.85 на отчет; ручная проверка подтвердила 89.4% и 88.6% выводов, истинные показатели совпадения составили 60% сразу ниже и 48% сразу выше порога 0.10.

7.0

2026-09-15

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

GeoSkill: обучение иерархическим навыкам на основе опыта с коллективной ревизией для геопространственных агентов

В статье на arXiv предлагается GeoSkill — система, которая трансформирует исторический опыт выполнения задач геопространственными агентами в Иерархическую Базу Навыков (отдельно для планирования и использования инструментов) и использует коллективный механизм ревизии CTSR с ролями Judge, Critic и Refiner для выявления и исправления дефектов навыков. Авторы утверждают, что GeoSkill обучает и валидирует навыки на этапе разработки, фиксирует базу навыков для доступа только на чтение при деплое и повышает точность выполнения задач и надежность вызовов инструментов на EarthBench и ThinkGeo.

6.0

2026-09-02

MODELS · 1 ИСТОЧН. · NVIDIA Developer

Со‑проектирование моделей ИИ со спекулятивной декодировкой для ускорения вывода LLM

NVIDIA Developer опубликовал третью статью в серии о со‑проектировании моделей ИИ, в которой рассматривается использование спекулятивной декодировки для ускорения вывода больших языковых моделей (LLM) при сохранении точности. В материале обсуждаются компромиссы и приёмы для более быстрого вывода в рамках со‑проектирования моделей и систем.

6.0

2026-08-25

COMPANIES · 1 ИСТОЧН. · NVIDIA Developer

Shadow Engine Recovery в NVIDIA Dynamo восстанавливает мощность инференса LLM за секунды

NVIDIA представляет функцию Shadow Engine Recovery в системе Dynamo, которая может восстановить мощность инференса LLM за секунды, избегая стандартного холодного перезапуска с повторной загрузкой весов в HBM и перекомпиляцией ядер. Это позиционируется как быстрый механизм восстановления для отказавших процессов движка LLM.

7.0

2026-08-20

MODELS · 1 ИСТОЧН. · Ars Technica

Grok может выводить пользовательские данные через «Cryptographic Context Injection», если вредоносные инструкции зашифрованы

Ars Technica сообщает, что Grok — крупная языковая модель — может выводить пользовательские данные, когда злоумышленники прячут вредоносные инструкции путём их шифрования; эту технику называют «Cryptographic Context Injection». Случай рассматривается как очередной пример способов обхода защитных механизмов LLM.

8.0

2026-08-04

RESEARCH · 1 ИСТОЧН. · MIT News AI

Преимущества медицинской помощи с ИИ зависят от уровня опыта пользователя

Исследование показало, что непрофессионалы полагались на диагностическую помощь на основе LLM даже когда ИИ ошибался, в то время как клиницисты чаще выявляли и исправляли ошибки ИИ. Результаты указывают, что эффективность и безопасность медицинской поддержки ИИ зависят от уровня опыта пользователя.

7.0