НОВОСТЬ · COMPANIES · #1794
Postman запускает Agent Mode для 40 млн разработчиков на Amazon Bedrock
Postman рассказывает, как его Agent Mode — AI‑ориентированный интерфейс для тестирования API, документации, поиска и реализации — работает в продакшне для примерно 40 млн разработчиков на Amazon Bedrock. В посте описаны архитектурные подходы (ограничение числа инструментов, чтения по схемам, фокус на контексте как узком месте), операционные решения (географически разграничённый кросс‑регионный вывод, модель‑зависимое отсутствие хранения данных, многоуровневое кеширование подсказок), требование одобрения пользователем изменений состояния и использование Amazon Bedrock Guardrails для редактирования PII; также описано, как из >170 инструментов отбирают ~15 с помощью векторной базы эмбеддингов.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Postman рассказывает, как его Agent Mode — AI‑ориентированный интерфейс для тестирования API, документации, поиска и реализации — работает в продакшне для примерно 40 млн разработчиков на Amazon Bedrock.
- В посте описаны архитектурные подходы (ограничение числа инструментов, чтения по схемам, фокус на контексте как узком месте), операционные решения (географически разграничённый кросс‑регионный вывод, модель‑зависимое отсутствие хранения данных, многоуровневое кеширование подсказок), требование одобрения пользователем изменений состояния и использование Amazon Bedrock Guardrails для редактирования PII; также описано, как из >170 инструментов отбирают ~15 с помощью векторной базы эмбеддингов.
- Показывает практические проверенные в продакшне подходы к масштабированию AI‑агентов для глобального использования с ограничением набора инструментов, защитой данных и обеспечением требований по задержке с помощью управляемой инфраструктуры моделей.
ПОЧЕМУ ЭТО ВАЖНО
Показывает практические проверенные в продакшне подходы к масштабированию AI‑агентов для глобального использования с ограничением набора инструментов, защитой данных и обеспечением требований по задержке с помощью управляемой инфраструктуры моделей.