InfoQ: Руководство по платформенной инженерии для production LLM
InfoQ публикует руководство по платформенной инженерии на примере системы рекомендаций для учёта запасов в ритейле, где уровень галлюцинаций снизили примерно с 15% до 1,5% без замены фаундейшн-модели, применив платформенные меры (автоматические циклы повторов, валидация намерений, реестр подсказок, авторизация инструментов и кастомная телеметрия). В статье есть сопроводительный репозиторий на GitHub с запускаемыми примерами — локальная llama3.1 через Ollama и LiteLLM — и обсуждение маршрутизации через модели вроде Gemini и GPT в корпоративном трафике.