НОВОСТЬ · MODELS · #3019
Amazon Bedrock добавляет локальный (Индия) inference для Kimi K3 от Moonshot AI
Amazon Bedrock теперь поддерживает локальный inference в Индии для открытой мультимодальной модели Kimi K3 от Moonshot AI через профиль inference для Индии (in.moonshotai.kimi-k3), позволяя запросам, отправленным в исходный регион (например, ap-south-1 Мумбаи), обрабатываться в индийских регионах без прохождения через публичный интернет. AWS публикует пример с OCR и вопросно‑ответной обработкой на хинглише, а клиенты, например Ultrahuman, используют эту возможность в продакшене с заявленными улучшениями по стоимости и задержкам.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Amazon Bedrock теперь поддерживает локальный inference в Индии для открытой мультимодальной модели Kimi K3 от Moonshot AI через профиль inference для Индии (in.moonshotai.kimi-k3), позволяя запросам, отправленным в исходный регион (например, ap-south-1 Мумбаи), обрабатываться в индийских регионах без прохождения через публичный интернет.
- AWS публикует пример с OCR и вопросно‑ответной обработкой на хинглише, а клиенты, например Ultrahuman, используют эту возможность в продакшене с заявленными улучшениями по стоимости и задержкам.
- Позволяет клиентам с требованиями к хранению данных в Индии запускать inference Kimi K3 локально в инфраструктуре AWS и упрощает интеграцию через API Bedrock и профили кросс‑регионального inference.
ПОЧЕМУ ЭТО ВАЖНО
Позволяет клиентам с требованиями к хранению данных в Индии запускать inference Kimi K3 локально в инфраструктуре AWS и упрощает интеграцию через API Bedrock и профили кросс‑регионального inference.