РЕЛИЗ · COMPANIES · #2573
Cloudflare выпустила Auto Router в публичной бете через AI Gateway — классификация запросов по ставкам и другим метрикам
Cloudflare выпустила Auto Router в публичной бете через AI Gateway: двухэтапный маршрутизатор, который формирует пул моделей, затем запускает мультиголовый классификатор на Workers AI, присваивающий вероятности по 14 категориям задач и оценки 1–5 по сложности, неоднозначности, ставкам и зависимости от контекста, опираясь только на последние ходы (до 8 КиБ). Результаты комбинируются с бенчмарком (формула: «utility = expected quality - adaptive cost penalty»), маршрутизация оставляет заголовки для аудита, поддерживает указание разрешённых моделей на запрос и бесплатна в бете, но WebSocket пока не поддерживаются.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Cloudflare выпустила Auto Router в публичной бете через AI Gateway: двухэтапный маршрутизатор, который формирует пул моделей, затем запускает мультиголовый классификатор на Workers AI, присваивающий вероятности по 14 категориям задач и оценки 1–5 по сложности, неоднозначности, ставкам и зависимости от контекста, опираясь только на последние ходы (до 8 КиБ).
- Результаты комбинируются с бенчмарком (формула: «utility = expected quality - adaptive cost penalty»), маршрутизация оставляет заголовки для аудита, поддерживает указание разрешённых моделей на запрос и бесплатна в бете, но WebSocket пока не поддерживаются.
- Это меняет подход к маршрутизации запросов на периферии — решения принимаются на основе оценок риска и ожидаемой выгоды, делая маршрутизацию аудитируемой, но вызывает вопросы из‑за учёта только последних ходов и состава пула моделей.
ПОЧЕМУ ЭТО ВАЖНО
Это меняет подход к маршрутизации запросов на периферии — решения принимаются на основе оценок риска и ожидаемой выгоды, делая маршрутизацию аудитируемой, но вызывает вопросы из‑за учёта только последних ходов и состава пула моделей.