Tech Meridian ← К ЛЕНТЕ
PROМОЙ MERIDIAN EN

НОВОСТЬ · CODING · #3357

AWS опубликовала пример 'Bedrock Invocation Data Lake' для централизованной наблюдаемости

AWS опубликовала пример (репозиторий на GitHub), который централизует логи вызовов Amazon Bedrock из связанных аккаунтов в запросную data lake с помощью подписок CloudWatch, Data Firehose и Athena. Репозиторий содержит шаблоны CloudFormation, код Lambda и SQL-запросы для фиксации деталей каждого вызова: числа входных/выходных токенов, используемая модель, причина остановки, аккаунт и IAM-идентичность.

КЛЮЧЕВЫЕ ТЕЗИСЫ

  1. AWS опубликовала пример (репозиторий на GitHub), который централизует логи вызовов Amazon Bedrock из связанных аккаунтов в запросную data lake с помощью подписок CloudWatch, Data Firehose и Athena.
  2. Репозиторий содержит шаблоны CloudFormation, код Lambda и SQL-запросы для фиксации деталей каждого вызова: числа входных/выходных токенов, используемая модель, причина остановки, аккаунт и IAM-идентичность.
  3. Это даёт платформенным и ML-командам видимость по каждому вызову Bedrock и возможность атрибуции затрат в организации, что позволяет отлаживать проблемы и находить неэффективное использование.

ПОЧЕМУ ЭТО ВАЖНО

Это даёт платформенным и ML-командам видимость по каждому вызову Bedrock и возможность атрибуции затрат в организации, что позволяет отлаживать проблемы и находить неэффективное использование.

ИСТОЧНИКИ И ХРОНОЛОГИЯ

1