Инженеры Apple представили масштабируемую независимую от фреймворка инфраструктуру для AI‑агентов на Ray на QCon AI
На QCon AI инженеры Apple Дипак Моханакумар Чандрамоули и Бхумик Тхаккар рассказали о переводе AI‑агентов от локальных прототипов на FastAPI в устойчивые прод‑развёртывания на Kubernetes с помощью Ray, обсуждая топологию RayCluster, хранение состояния, авто‑масштабирование при динамическом трафике, дизайн контрольной плоскости, мульти‑региональные настройки, защитные механизмы и конвейер оценки с LLM в роли судьи; всё это проиллюстрировано примером планировщика путешествий и практическими наблюдениями по наблюдаемости.