Airbnb использует стоимость за задачу и метрики CloudWatch для запуска кодирующих агентов AirChat на Amazon Bedrock
Airbnb направляет внутренние кодирующие агенты (AirChat и AirChat Remote) через LLM-шлюз в Amazon Bedrock и оценивает модели с помощью задачевых эвалюаций, которые дают оценку и стоимостb выполнения задачи по прайс-листу. Производственный мониторинг в Amazon CloudWatch (латентность, подсчёт токенов, троттлинг, EstimatedTPMQuotaUsage) сравнивается с результатами эвалюаций для выбора моделей по умолчанию, ограничения усилий и диагностики изменений в задержках, троттлинге и расходах.