Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #211

Amazon SageMaker AI

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

24

CODING · 1 ИСТОЧН. · AWS Machine Learning

Руководство Amazon SageMaker AI: SeqKD для более эффективных агентных моделей

В блоге Amazon SageMaker AI описывается применение sequence-level knowledge distillation (SeqKD) для обучения более компактных и дешёвых «студентских» моделей, воспроизводящих многошаговое поведение крупных «учительских» моделей. В материале показано, как генерировать траектории агента через API учителя, отбирать успешные прогоны с помощью программного оценщика, кодировать данные для SFT, запускать серверное (serverless) обучение и оценивать студента на отложенном бенчмарке.

6.0

CODING · 1 ИСТОЧН. · Cohere

Построение финансового ассистента с ссылками на источники на AWS с Cohere и Anthropic

Демонстрация на базе CloudFormation показывает, как на AWS создать финансового исследовательского ассистента, объединяя Cohere Embed, Rerank и Parse с Amazon SageMaker AI, OpenSearch Serverless и Amazon Bedrock (Anthropic Claude для ответов). В руководстве объясняется использование Embed Pro/Fast и Rerank Pro/Fast, Context Focus и Parse для индексирования контента на уровне страниц (включая таблицы и сканы) и получения ответов с источниками при балансировке качества поиска, задержки и стоимости.

5.0

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Exowatt использовала серверную кастомизацию SageMaker для дообучения моделей Qwen3 для edge и облака, опередив frontier-модели

Exowatt создала повторяемый конвейер на Amazon SageMaker AI с серверной кастомизацией моделей для задач триажа тревог на edge (Qwen3-1.7B) и анализа энергорынка в облаке (Qwen3-14B). Дообученные модели превзошли контрольные frontier-модели по точности для этих задач и показали до 49× меньшую стоимость, обеспечив путь от операционных данных до развертываемых артефактов за дни вместо месяцев.

6.0

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Практическое руководство: многошаговое обучение с подкреплением (MTRL) в Amazon SageMaker AI с AgentCore

Amazon опубликовала практическое руководство по многошаговому обучению с подкреплением (MTRL) в SageMaker AI, в котором агент, размещённый в Amazon Bedrock AgentCore (или в инфраструктуре пользователя), вызывает обучаемую полиси-модель и возвращает награду по эпизоду. В статье показан полный конвейер (развёртывание, подготовка данных, обучение LoRA с GRPO, мониторинг в MLflow, оценка), в качестве примера использована Wordle; авторы утверждают, что GPT-OSS-20B поднялся с 61% до 84% решаемости (и с 15% до 69% при низкой вычислительной затрате) примерно за $339 на токены, код доступен в aws-samples репозитории.

6.0

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

AWS запускает SageMaker AI serverless «Training Sessions» (GA) для настройки моделей

Amazon объявила о выводе в общую доступность Training Sessions для SageMaker AI serverless model customization — это позволяет запускать собственные посттренировочные циклы (SFT, DPO, RLAIF, многошаговый RL, LoRA или полная донастройка) без управления GPU: SageMaker управляет выделением GPU, распределённым выполнением, чекпоинтами и восстановлением ошибок, а также предоставляет cookbook и агентные навыки. Клиенты отмечают применение в задачах вроде триажа отказов по страховым претензиям и многошаговой тренировки агентов с использованием Amazon Neptune и gpt-oss-20b.

7.0

CODING · 1 ИСТОЧН. · AWS Machine Learning

Измеряемое автоскейлирование TTS на Amazon SageMaker с Kokoro-82M

В руководстве показано развёртывание Kokoro-82M (82M параметров, неавторегрессивная TTS) в кастомном контейнере на реальном endpoint Amazon SageMaker AI через AWS CDK и замена угаданной цели автоскейлинга на вычисленную по двум живым измерениям: Q_max (максимальная конкурентность на инстанс при соблюдении SLO) и T_total (время масштабирования end-to-end). Развёртывание использует нативную метрику SageMaker ConcurrentRequestsPerModel (в CloudWatch) и поддерживает InvokeEndpointWithResponseStream и InvokeEndpointWithBidirectionalStream; инструмент конвертирует клиентские измерения в единицы CloudWatch, в примере отношение измеренных и публикуемых значений оказалось 1.0.

6.0

MODELS · 1 ИСТОЧН. · AWS Machine Learning

Deepgram портировал Nova-3 ASR на AWS Trainium2 и достиг экономии 11–70% при пакетной обработке

Deepgram совместно с AWS портировал модель Nova-3 распознавания речи на AWS Trainium2 с использованием TorchNeuron, NKILib и собственных NKI-ядр; итоговая конфигурация размещает восемь реплик модели на одном экземпляре Amazon EC2 trn2.3xlarge. Для оффлайн пакетных задач (например, аналитика контакт-центров, медицинская транскрипция) эта настройка обрабатывала на 11–70% больше аудио за доллар по сравнению с ранее используемыми вычислительными опциями (по ценам инстансов на момент оценки).

7.0

MODELS · 2 ИСТОЧН. · AWS Machine Learning · The Verge AI

Muse Spark Open (Meta, 816B MoE) доступна в Amazon SageMaker JumpStart

Оптимизированная для программирования модель Muse Spark Open от Meta (Mixture-of-Experts, 816 млрд параметров, 42B активных на токен, окно контекста 1 миллион токенов) стала доступна в Amazon SageMaker JumpStart в двух вариантах (Muse-Spark-Open-816B-A42B — BF16 и Muse-Spark-Open-816B-A42B-NVFP4 — NVFP4). Весы модели открыты под Muse Model License и разворачиваются в вашем AWS-аккаунте через SageMaker AI (рекомендованные инстансы: ml.p6-b300.48xlarge для BF16, ml.p5e.48xlarge для NVFP4); endpoint возвращает также шаги рассуждения модели.

8.0

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Amazon SageMaker JumpStart добавляет просмотр Model Hub, преднастроенные конфигурации эндпоинтов и однокликовый деплой из Hugging Face (2026)

Новый блог-пост AWS показывает, как развернуть и протестировать предобученные модели через Amazon SageMaker JumpStart с помощью повторно используемого скрипта на SageMaker Python SDK v3 для измерения задержки, длины вывода и скорости генерации. В 2026 году SageMaker JumpStart получил просмотр Model Hub в консоли SageMaker AI, преднастроенные варианты конфигураций эндпоинтов (включая оптимизации для Neuron и профили по стоимости/задержке) и глубокую ссылку для однокликового деплоя моделей Hugging Face в SageMaker.

5.0

CODING · 1 ИСТОЧН. · AWS Machine Learning

Развёртывание decision‑моделей на llama.cpp в Amazon SageMaker AI с AWS DLC и SemIf

AWS опубликовала руководство по использованию AWS Deep Learning Container (DLC) для llama.cpp, чтобы обслуживать OpenAI‑совместимые chat‑completion через SageMaker InvokeEndpoint, а также по расширению образа SemIf (ранее OpenJev) для возврата вероятностей и логитов для структурированных задач принятия решений. В материале описаны варианты развёртывания на CPU и GPU, сборка дочернего образа через CodeBuild/ECR для SemIf и бенчмарк сравнения задержек на CPU и GPU.

6.0

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Amazon SageMaker AI демонстрирует дообучение поисковых агентов с помощью многошагового RL (MTRL) на Qwen3.6-27B

В публикации Amazon описывает использование возможностей многошагового обучения с подкреплением (MTRL) в Amazon SageMaker AI для дообучения модели Qwen3.6-27B под поискового агента. Статья перечисляет возможности MTRL — бессерверное выполнение, модульный интерфейс агент–окружение, асинхронные роллауты, встроенные алгоритмы (PPO, CISPO, IS), наблюдаемость траекторий через MLflow и задачи оценки — и показывает пример с BM25 и векторным поиском для корпоративного поиска.

6.0

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

AWS описывает рабочие процессы AgentCore и интеграции Amazon Bedrock для миграций в облако и агентных задач

Технический пост AWS описывает, как AWS Professional Services использует многоагентную рамку на базе Amazon Bedrock AgentCore для автоматизации сквозных корпоративных миграций в облако и сокращения времени разработки IaC с недель до минут. В статье также приведены инструкции и интеграции — Live Data в Amazon QuickSight, использование Amazon S3 Vectors как постоянной памяти с NVIDIA NeMo Agent Toolkit на EKS, шаблоны ambient-агентов, настройка Claude Platform на AWS, персонализация через SageMaker AI, дообучение Nova 2 Lite для uniopen, конверсационный ассистент на Bedrock Knowledge Bases и Runtime Instances для AgentCore.

7.0

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Amazon Payments внедряет контекстный бандит LinUCB на Amazon SageMaker AI для персонализации воронки привлечения

Amazon Payments внедрила многоцелевой контекстный многорукий бандит (LinUCB) на Amazon SageMaker AI для персонализации контента в трёхшаговой воронке привлечения. В семинедельном онлайн A/B-тесте компания зафиксировала однозначный высокий процентный рост конверсии на завершающем этапе для одной группы пользователей, тогда как для другой улучшений не было; опубликованы архитектура на AWS, детали метода и репозиторий с кодом для экспериментов на синтетических данных.

6.0

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Uniopen дообучила Amazon Nova 2 Lite для модерации контента в ритейле

Uniopen (в составе тайваньской Uni‑President Enterprises Group) настроила Amazon Nova 2 Lite под свою таксономию модерации в ритейле через супервизированное дообучение в Amazon SageMaker AI и оптимизацию вывода на уровне подсказок; Nova 2 Pro генерирует кандидатные исправления, которые проверяются людьми до включения в обучающий набор. Конвейер развертывания использует Amazon S3, DynamoDB, Argo Workflows на EKS, Argo CD, SNS, CloudWatch и Bedrock Guardrails с проверками «жёстких» и «мягких» ворот, фиксированными тестовыми наборами и обязательной человеческой верификацией в спорных случаях.

6.0

CODING · 1 ИСТОЧН. · AWS Machine Learning

Развёртывание Qwen3-TTS со стриминговым выводом на SageMaker через vLLM-Omni v1.5 для приложений реального времени

AWS опубликовала пошаговое руководство (Часть 1) по развёртыванию модели синтеза речи Qwen3-TTS на Amazon SageMaker AI с использованием Deep Learning Container vLLM-Omni v1.5. В материале показано, как по одному постоянному двухстороннему соединению (SageMaker bidirectional streaming) отправлять текст и получать аудиочасти через нативный WebSocket‑маршрут vLLM-Omni (v1/audio/speech/stream), а также приведён пример на Gradio; серия также охватит другие специализированные DLC (WhisperX, llama.cpp).

6.0

CODING · 1 ИСТОЧН. · AWS Machine Learning

Генерация изображений и условного видео в SageMaker AI с помощью AWS vLLM-Omni DLC (FLUX.2-klein-4B → Wan2.1-VACE-1.3B)

В блоге AWS показано развёртывание одного образа AWS vLLM-Omni DLC на двух эндпойнтах SageMaker AI: реальном для FLUX.2-klein-4B (генерация изображений) и асинхронном для Wan2.1-VACE-1.3B (генерация видео по изображению). Пример создаёт PNG по текстовому промпту, передаёт его через S3 на видео-эндпойнт, получает MP4 из S3 и включает CLI- и опциональный Streamlit-примеры.

5.0

MODELS · 1 ИСТОЧН. · AWS Machine Learning

AWS упаковал WhisperX DLC для SageMaker с пометками говорящих и покомандными метками времени

AWS выпустил WhisperX Deep Learning Container (DLC) для Amazon SageMaker, который объединяет OpenAI Whisper с выравниванием на основе wav2vec2 и диаризацией говорящих для покомандных меток времени и пометок «кто говорит». GPU‑готовый контейнер соответствует контракту обслуживания SageMaker, поддерживает реальное время и асинхронные эндпоинты и выдаёт форматы json, verbose_json, srt и vtt (пример тега образа: whisperx:3.8.6-cu128-amzn2023-sagemaker).

6.0

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Amazon SageMaker AI внедряет встроенные concurrency sweep’ы для подбора размера эндпойнтов генеративного ИИ

Amazon описывает использование concurrency sweep’ов, встроенных в SageMaker AI Inference Recommendations, для тестирования эндпойнтов генеративного ИИ путём увеличения уровня одновременных запросов и измерения пропускной способности и задержек. В статье показано развертывание NVIDIA Nemotron-3 Nano 30B на ml.g7e.2xlarge с контейнером vLLM и запуск CreateAIBenchmarkJob (профиль нагрузки задаётся через CreateAIWorkloadConfig) для определения точки насыщения и оптимального размера инстансов.

6.0

CODING · 1 ИСТОЧН. · AWS Machine Learning

IDE Positron от Posit теперь работает на Amazon SageMaker AI с ассистентом Posit Assistant на Bedrock

Posit опубликовала определение контейнерного образа Positron, который можно зарегистрировать в Amazon SageMaker AI и прикрепить к домену SageMaker Studio. Запуск Positron на SageMaker AI позволяет дата‑сайентистам работать с управляемыми данными AWS (Athena, Glue, S3) под ролью Space execution role, запускать Spaces на выделённых или динамических ресурсах SageMaker, совместно работать в общих или параллельных Spaces и использовать Posit Assistant с Amazon Bedrock как поставщиком моделей в пределах учётной записи и региона AWS заказчика.

6.0

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

EXL запустила медицинское решение IDP с ИИ в AWS

EXL объединила приложение Xtrakto.AI для интеллектуальной обработки документов и специализированную модель EXL Insurance LLM, развернув конвейер в AWS (включая Amazon SageMaker AI и Amazon Bedrock) для извлечения, суммаризации и запроса медицинских записей в масштабе предприятия с целью сократить время рассмотрения претензий и андеррайтинга. Решение работает в одном регионе AWS и использует сервисы AWS для приема, оркестрации, OCR, обучения/инференса моделей и управления доступом.

5.0

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

AWS объясняет миграцию мульти-модельных Hugging Face smolagents в Amazon Bedrock AgentCore runtime

AWS опубликовала руководство по миграции мульти-модельного медицинского агента, созданного с помощью Hugging Face smolagents, с самоуправляемого разворачивания на Amazon ECS/Fargate в управляемый рантайм Amazon Bedrock AgentCore. Решение сохраняет логику агента, переложив жизненный цикл контейнеров, масштабирование, управление идентификацией и наблюдаемостью на AgentCore, и демонстрирует оркестрацию между Llama 3.1 70B Instruct в Bedrock, BioM-ELECTRA-Large-SQuAD2 в SageMaker (и контейнерной), а также векторным поиском через Amazon OpenSearch Service.

6.0

CODING · 1 ИСТОЧН. · AWS Machine Learning

Hugging Face выпустила шесть open‑source Skills для развёртывания моделей в Amazon SageMaker AI через coding‑агентов

Hugging Face опубликовала шесть open‑source «Skills» (на GitHub), позволяющих coding‑агентам полностью автоматизировать развёртывание моделей Hugging Face в Amazon SageMaker AI. Skills помогают выбрать корректный образ из AWS Deep Learning Containers, создать real‑time или serverless endpoint с автоскейлингом и оповещениями CloudWatch, обеспечивают проверяемый путь удаления ресурсов и работают через Python и AWS CLI, предотвращая дорогостоящие или нестабильные ошибки агентов.

6.0

MODELS · 1 ИСТОЧН. · AWS Machine Learning

Amazon SageMaker развертывает Qwen-Image-Edit-2509 и Rekognition для дополнения датасетов безопасности синтетическими людьми

Amazon показала конвейер на SageMaker AI, который использует диффузионную модель Qwen-Image-Edit-2509 (развёрнутую на ml.g5.12xlarge с NVIDIA A10G) для вставки фотореалистичных синтетических людей в реальные изображения оборудования, а затем автоматически получает ограничивающие рамки через Amazon Rekognition DetectLabels; по экспериментам, это давало до 160% улучшения mAP50 для обнаружения людей без ручной разметки. Подход редактирует реальные сцены, сохраняет фон, очищает боксы с помощью NMS и конвертирует аннотации в формат YOLO для обучения.

6.0

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Amazon SageMaker AI добавляет списки предпочтений инстансов для задач обучения и обработки

Amazon SageMaker AI теперь поддерживает списки предпочтений инстансов для задач обучения и обработки. Можно указать упорядоченный список из до пяти типов инстансов, и SageMaker AI автоматически запустит первый доступный тип, избавляя от ручных циклов повторных попыток и скриптов для отслеживания доступности.

6.0