НОВОСТЬ · MODELS · #215
Не только цена за токен: выбор модели OpenAI на Amazon Bedrock
В блоге AWS Machine Learning утверждается, что сравнение моделей по цене за миллион токенов упускает затраты, связанные с результатами, и представлен открытый набор для бенчмаркинга, измеряющий стоимость за правильный ответ, стоимость траекторий агентов и качество результатов по рубрике для моделей OpenAI в Amazon Bedrock.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В блоге AWS Machine Learning утверждается, что сравнение моделей по цене за миллион токенов упускает затраты, связанные с результатами, и представлен открытый набор для бенчмаркинга, измеряющий стоимость за правильный ответ, стоимость траекторий агентов и качество результатов по рубрике для моделей OpenAI в Amazon Bedrock.
- Предоставляет практический инструмент и метрики, ориентированные на результат, для выбора моделей OpenAI в Bedrock, что может повлиять на соотношение стоимости и качества в продакшене.
- Beyond the price per token: Choosing the right OpenAI model on Amazon Bedrock for your workload
ПОЧЕМУ ЭТО ВАЖНО
Предоставляет практический инструмент и метрики, ориентированные на результат, для выбора моделей OpenAI в Bedrock, что может повлиять на соотношение стоимости и качества в продакшене.