НОВОСТЬ · COMPANIES · #2923
Оценивайте AI-разработку по цене за влитый PR, а не по токенам; гибридный on‑prem снижает стоимость токенов
В статье утверждается, что оплата по токенам плохо отражает ценность агентных рабочих процессов и предлагает измерять стоимость за влитый pull request (и стоимость на активного разработчика). Рекомендуется гибридная архитектура: сложные задачи направлять в «передовые» модели, рутинные — на собственные open-weight модели; HPE сообщает, что маршрутизация рутинных задач на HPE Private Cloud AI снизила затраты на токены на 30–50%.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В статье утверждается, что оплата по токенам плохо отражает ценность агентных рабочих процессов и предлагает измерять стоимость за влитый pull request (и стоимость на активного разработчика).
- Рекомендуется гибридная архитектура: сложные задачи направлять в «передовые» модели, рутинные — на собственные open-weight модели; HPE сообщает, что маршрутизация рутинных задач на HPE Private Cloud AI снизила затраты на токены на 30–50%.
- Это важно, потому что переход к измерению эффективности по стоимости за влитый PR и к владению/гибридной инференс-инфраструктуре может существенно изменить экономику и безопасность AI‑помощи в разработке.
ПОЧЕМУ ЭТО ВАЖНО
Это важно, потому что переход к измерению эффективности по стоимости за влитый PR и к владению/гибридной инференс-инфраструктуре может существенно изменить экономику и безопасность AI‑помощи в разработке.