НОВОСТЬ · MODELS · #2236
Amazon Bedrock добавляет структурированные ответы для моделей Anthropic Claude
Amazon Bedrock теперь поддерживает структурированные ответы (соответствующие схеме JSON) для всех моделей Anthropic Claude на эндпоинтах bedrock-runtime и bedrock-mantle, применяя ограниченное декодирование, чтобы генерируемые токены соответствовали заданной JSON‑схеме. Функция включает компиляцию грамматики с 24‑часовым кэшированием, работает с пакетной и потоковой инференцией и кросс‑региональным выполнением и призвана исключить ошибки парсинга и дополнительную постобработку в продакшн‑интеграциях.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Amazon Bedrock теперь поддерживает структурированные ответы (соответствующие схеме JSON) для всех моделей Anthropic Claude на эндпоинтах bedrock-runtime и bedrock-mantle, применяя ограниченное декодирование, чтобы генерируемые токены соответствовали заданной JSON‑схеме.
- Функция включает компиляцию грамматики с 24‑часовым кэшированием, работает с пакетной и потоковой инференцией и кросс‑региональным выполнением и призвана исключить ошибки парсинга и дополнительную постобработку в продакшн‑интеграциях.
- Выходы с обеспечением соответствия схеме и детерминированным формированием уменьшают ошибки парсинга, повторные запросы и сложность интеграции, делая Claude на Bedrock более надежным для продакшн‑извлечения данных, агентных рабочих процессов и масштабной инференции.
ПОЧЕМУ ЭТО ВАЖНО
Выходы с обеспечением соответствия схеме и детерминированным формированием уменьшают ошибки парсинга, повторные запросы и сложность интеграции, делая Claude на Bedrock более надежным для продакшн‑извлечения данных, агентных рабочих процессов и масштабной инференции.