Проектирование быстрого и удобного UX с LLM для мобильных интерфейсов (доклад на QCon)
На QCon San Francisco старший инженер Amazon Балакришнан Рамдосс представил подходы к архитектуре производственных разговорных мобильных приложений с LLM: снижение задержки моделей, серверно-управляемые интерфейсы и паттерн Backend-for-Frontend, оптимизация подсказок для выбора UI и варианты низколатентной приватной интеграции моделей на устройстве.