НОВОСТЬ · COMPANIES · #1472
DoorDash рассказывает об архитектуре и выводах при создании внутренней GenAI-платформы
На QCon AI инженеры DoorDash Сварууп Читлур и Сиддхарт Кодвани рассказали о создании внутренней GenAI-платформы для примерно 5 000 сотрудников: архитектурные решения, переход от поставщиков к открытым моделям, конструкция шлюзов для LLM и агентов, а также компромиссы между точностью, задержкой и стоимостью. Они подчеркнули подход API/SDK в первую очередь, ориентацию на продуктовых инженеров, автоматизацию лучших практик и фокус на бизнес-эффекте вместо простых чат-ботов.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- На QCon AI инженеры DoorDash Сварууп Читлур и Сиддхарт Кодвани рассказали о создании внутренней GenAI-платформы для примерно 5 000 сотрудников: архитектурные решения, переход от поставщиков к открытым моделям, конструкция шлюзов для LLM и агентов, а также компромиссы между точностью, задержкой и стоимостью.
- Они подчеркнули подход API/SDK в первую очередь, ориентацию на продуктовых инженеров, автоматизацию лучших практик и фокус на бизнес-эффекте вместо простых чат-ботов.
- Дает практический набор решений от крупной продуктовой компании о том, как эксплуатировать и масштабировать внутреннюю GenAI-платформу, включая переход от вендоров к открытым моделям и проектирование шлюзов для агентов.
ПОЧЕМУ ЭТО ВАЖНО
Дает практический набор решений от крупной продуктовой компании о том, как эксплуатировать и масштабировать внутреннюю GenAI-платформу, включая переход от вендоров к открытым моделям и проектирование шлюзов для агентов.