НОВОСТЬ · CODING · #3357
AWS опубликовала пример 'Bedrock Invocation Data Lake' для централизованной наблюдаемости
AWS опубликовала пример (репозиторий на GitHub), который централизует логи вызовов Amazon Bedrock из связанных аккаунтов в запросную data lake с помощью подписок CloudWatch, Data Firehose и Athena. Репозиторий содержит шаблоны CloudFormation, код Lambda и SQL-запросы для фиксации деталей каждого вызова: числа входных/выходных токенов, используемая модель, причина остановки, аккаунт и IAM-идентичность.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- AWS опубликовала пример (репозиторий на GitHub), который централизует логи вызовов Amazon Bedrock из связанных аккаунтов в запросную data lake с помощью подписок CloudWatch, Data Firehose и Athena.
- Репозиторий содержит шаблоны CloudFormation, код Lambda и SQL-запросы для фиксации деталей каждого вызова: числа входных/выходных токенов, используемая модель, причина остановки, аккаунт и IAM-идентичность.
- Это даёт платформенным и ML-командам видимость по каждому вызову Bedrock и возможность атрибуции затрат в организации, что позволяет отлаживать проблемы и находить неэффективное использование.
ПОЧЕМУ ЭТО ВАЖНО
Это даёт платформенным и ML-командам видимость по каждому вызову Bedrock и возможность атрибуции затрат в организации, что позволяет отлаживать проблемы и находить неэффективное использование.