Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #5143

QCon AI

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

18

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Нико Матсакис демонстрирует Symposium и Agent Client Protocol на QCon AI

Нико Матсакис заявил, что Rust хорошо сочетается с ИИ, и представил Symposium — открытый инструмент для агентно-ориентированных рабочих процессов от Rust Foundation, показав Agent Client Protocol (ACP) как способ стандартизировать расширяемость между агентами и инструментами. Он также подчеркнул, что система типов и компиляторные защитные механизмы Rust помогают агентам генерировать более корректный код и делают системы безопаснее для продакшена.

6.0

COMPANIES · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Инженер LinkedIn рассказал о продакшн-оптимизациях LLM для ранжирования, включая дистилляцию 7B→400M

На QCon AI (репортаж InfoQ) Сундара Раман Рамачандран (руководитель по инференсу LLM в LinkedIn) рассказал, как в LinkedIn выводят LLM-ранжирование в продакшн при жёстких P99 SLA: дистилляция 7B-модели до ≈400M параметров, сжатие контекстов вакансий в однокомпонентные эмбеддинги для ≈10× ускорения и устранение системных узких мест (кастомные flash-attention маски, обходы Python GIL, gc.freeze, неблокирующие CUDA-копии).

7.0

RESEARCH · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Dataiku демонстрирует Kiji Inspector: объяснимость выбора инструментов агентом с помощью разреженных автоэнкодеров

На QCon AI Ханнес Хапке (575 Lab, Dataiku) представил Kiji Inspector — открытый инструмент, который применяет разреженные автоэнкодеры к токенам решений, чтобы выявлять причины выбора инструментов агентами на базе больших языковых моделей. В демонстрации обсуждались каузальная аблация, извлечение активаций слоев через патчнутые vLLM-движки и рабочие процессы мониторинга в продакшене.

5.0

COMPANIES · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Walmart Global Tech внедряет многoагентную пакетную LLM-систему для прогнозирования запасов

На QCon AI Адитья Мулик из Walmart Global Tech рассказал о внедрении многoагентных LLM-воркфлоу для пакетного ночного прогнозирования запасов примерно в 4 700 магазинах США, с использованием MCP grounding и loop agents для обработки нарушений схем, несоответствий данных между отделами и сетевых сбоев. По его словам, переход с PTU на оплату по использованию сократил расходы на вывод моделей в облаке с более чем $100 тыс. до примерно $10 тыс. в месяц.

6.0

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Эдвайт Патель представил методику Zero Trust для AI-агентов на QCon AI

Эдвайт Патель (старший SRE в Broadcom) на QCon AI представил практическую методику защиты AI-агентов в продакшне: перенос границ защиты с промпта на слой инструментов, применение ограниченных идентичностей рабочих нагрузок, смягчение инъекций промптов через контроль выводов инструментов, а также организация аудируемой наблюдаемости и аварийных отключений для защиты данных при быстрой поставке. Выступление основано на реальных инцидентах и практиках облачной и комплаенс-безопасности (AWS/GCP, SOC 2/ISO).

6.0

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Нимиша Asthagiri (Thoughtworks) с докладом «Beyond the Harness: Canvas for AI Agents»

На QCon AI Нимиша Asthagiri (Thoughtworks) описала, как применение принципов инженерии продукта и архитектуры формирует ограниченное «полотно» для AI‑агентов, обеспечивая им ограниченную автономию, непрерывное обнаружение дрейфа и ведение записей решений для масштабирования устойчивой разработки ПО. Доклад рассматривает этот подход как развитие практик harness engineering и подчёркивает риски когнитивного долга и необходимость сохранения следов решений.

4.0

RESEARCH · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Глава Momento Хаваджа Шамс с докладом «Serving LLMs at Scale: The Hidden KV Cache Advantage» на QCon AI

Хаваджа Шамс (сооснователь и CEO Momento) на QCon AI изложил подходы из области распределённых систем для эффективного масштабирования инференса LLM, сосредоточившись на использовании GPU, «провалах» памяти KV‑кэша, многоуровневом хранении, снижении хвостовой латентности и разделённых архитектурах prefill/decode. Он представил эти приёмы как способы повысить производительность, экономичность и доступность LLM‑флота в продакшне.

5.0

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Акторы для агентов — шаблоны акторной модели для production AI (QCon AI)

На QCon AI Манжу Раджашекхар (основатель и генеральный директор Mad Labs) представил доклад «Акторы для агентов», в котором утверждает, что акторная модель естественно соответствует требованиям рантайма для production‑агентов. Он описал шаблоны — владение состоянием, обмен сообщениями, write‑through состояние и границы супервизии — для управления сбоями, продолжениями и изменяющимися графами выполнения, чтобы демонстрации агентов могли превратиться в устойчивые продакшн‑системы.

4.0

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Инженеры Apple представили масштабируемую независимую от фреймворка инфраструктуру для AI‑агентов на Ray на QCon AI

На QCon AI инженеры Apple Дипак Моханакумар Чандрамоули и Бхумик Тхаккар рассказали о переводе AI‑агентов от локальных прототипов на FastAPI в устойчивые прод‑развёртывания на Kubernetes с помощью Ray, обсуждая топологию RayCluster, хранение состояния, авто‑масштабирование при динамическом трафике, дизайн контрольной плоскости, мульти‑региональные настройки, защитные механизмы и конвейер оценки с LLM в роли судьи; всё это проиллюстрировано примером планировщика путешествий и практическими наблюдениями по наблюдаемости.

4.0

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Kilo Code представляет данные о триллионах токенов о том, как разработчики принимают AI-агентов (в названии — 25T)

На QCon AI Брендан О'Лири из Kilo Code, опираясь на реальные данные использования через их шлюз (в заголовке — 25 трлн токенов; в речи также упомянуто ≈40 трлн), заявил, что принятие агентных инструментов разработчиками зависит скорее от доверия, чем от результатов бенчмарков. Он описал четырехуровневую «лестницу доверия» и выделил технические узкие места в построении контекста, маршрутизации моделей и петлях обратной связи.

5.0

MONEY · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

CTO CloudZero Эрик Питерсон на QCon AI: «Счет за ИИ нельзя доверять»

На QCon AI основатель и CTO CloudZero Эрик Питерсон заявил, что расходы на ИИ начинают затмевать обычные облачные счета, описал дорогие практики вроде «tokenmaxxing» (по его оценке примерно $5–15 млрд) и объяснил, как экономика юнитов и система стимулов формируют кризис затрат в инженерии; он также предсказал, что к 2028 году автономный ИИ будет писать, разворачивать и управлять кодом.

5.0

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Spotify представила производственные паттерны Ads AI с Google ADK Java

На QCon AI Пратик Расам (старший инженер Spotify Ads) рассказал, как в Spotify Ads Manager платформа Ads AI запускает производственные мультиагентные системы с помощью Google ADK Java и Vertex AI на GCP. Доклад охватывал архитектурные паттерны, модель владения (один агент = один пакет/владелец), детерминированные барьеры безопасности, оценку через трассировку и уроки по границам агентов, схемам инструментов и управлению затратами; Spotify указала, что с момента запуска более 70% объявлений используют ИИ, создано около 20 000 креативов для свыше 7000 рекламодателей.

5.0

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Elastic представила переиспользуемую производственную систему оценки для агентного ИИ

На QCon AI Сьюзен Чанг (ведущий дата-сайентист Elastic) рассказала, как компания перешла от разрозненных ручных оценок агентов к единой производственной системе оценки, сочетающей LLM-вёрдикты и детерминированные правила, связывающей Python-оценки с TypeScript-продакшеном и использующей глубокий трассинг для обнаружения регрессий в RAG и кибербезопасности при сохранении контекста домена.

5.0

COMPANIES · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

DoorDash рассказывает об архитектуре и выводах при создании внутренней GenAI-платформы

На QCon AI инженеры DoorDash Сварууп Читлур и Сиддхарт Кодвани рассказали о создании внутренней GenAI-платформы для примерно 5 000 сотрудников: архитектурные решения, переход от поставщиков к открытым моделям, конструкция шлюзов для LLM и агентов, а также компромиссы между точностью, задержкой и стоимостью. Они подчеркнули подход API/SDK в первую очередь, ориентацию на продуктовых инженеров, автоматизацию лучших практик и фокус на бизнес-эффекте вместо простых чат-ботов.

5.0

COMPANIES · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Презентация Forter: как 200 сотрудников R&D научились создавать AI‑агентов за две недели

На QCon AI главный инженер Forter Бен Мараней рассказал о двухнедельном внутреннем спринте, в ходе которого около 200 сотрудников R&D получили практический опыт создания AI‑агентов. Команда снизила барьеры, запустив собственный MCP‑сервер, сочетая no‑code и кодовые платформы, избегая сложных RAG‑настроек и согласовав действия с отделами безопасности и юристами для ускорения внедрения.

5.0

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Маллика Рао (QCon AI): Адаптивные рекомендательные системы в реальном мире — инференс, оценки и системный дизайн

Маллика Рао, бывший инженерный руководитель в Twitter, Walmart и Netflix, выступает на QCon AI с докладом об операционных и архитектурных задачах адаптивных рекомендательных систем. Она подчёркивает важность обратных связей в реальном времени, актуальности поиска, многоступенчатой оркестрации и балансировки сквозной задержки и затрат для непрерывного обучения и развития рекомендателей в продакшене.

4.0

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Винот Говиндараджан (OpenAI) представил принципы «Agent Harness» для промышленных AI-агентов

На QCon AI инженер OpenAI Винот Говиндараджан представил «Agent Harness», подчеркнув, что сбои в рабочих AI-агентах часто связаны с управлением состоянием и инженерией, а не только с галлюцинациями модели. На примере OpenClaw он изложил ключевые принципы надёжного «харнеса» агентов: явное владение состоянием, сериализация конкурентных изменений состояния, ограничение полномочий выполнения и проверка действий на пользовательском крае.

6.0

COMPANIES · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

LinkedIn создала Contextual Agent Playbooks — организационный слой контекста для AI‑агентов на базе MCP

На QCon AI инженер LinkedIn Аджай Пракаш представил систему «Contextual Agent Playbooks and Tools» — организационный слой контекста, построенный на Model Context Protocol (MCP), который предоставляет агентам процедурную память, поиск по коду и инструкции (runbooks). LinkedIn заявляет, что система (используется в сотнях рабочих процессов) даёт рост продуктивности на 20% без потери надёжности и описал её архитектуру и эксплуатационные меры.

7.0