ИССЛЕДОВАНИЕ · RESEARCH · #1502
CourseChat: локальный многокурсный RAG‑репетитор для бизнес‑образования (arXiv:2610.02510v1)
Авторы описывают CourseChat — локальный многокурсный репетитор на основе retrieval-augmented generation (RAG), запущенный за кампус‑шлюзом и интегрированный с Moodle; система работает на двух edge‑хостах с FastAPI, локальной векторной БД и LLM через Ollama для шести изолированных CRN. В статье представлены два сравнительных прогона моделей, сравнение точности источников, аудиты диалогов и тестов: большие модели не прошли по скорости, 12B и 7B прошли, смесь экспертов добавляла новые ошибки, поэтому в продакшне пока оставили 8B; учебный эффект и приемлемость для публичного шлюза не оценены.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Авторы описывают CourseChat — локальный многокурсный репетитор на основе retrieval-augmented generation (RAG), запущенный за кампус‑шлюзом и интегрированный с Moodle; система работает на двух edge‑хостах с FastAPI, локальной векторной БД и LLM через Ollama для шести изолированных CRN.
- В статье представлены два сравнительных прогона моделей, сравнение точности источников, аудиты диалогов и тестов: большие модели не прошли по скорости, 12B и 7B прошли, смесь экспертов добавляла новые ошибки, поэтому в продакшне пока оставили 8B; учебный эффект и приемлемость для публичного шлюза не оценены.
- Работа показывает практические аппаратно‑программные компромиссы и выбор архитектуры при локальном развёртывании RAG‑репетиторов в кампусе, подчёркивая влияние производительности и точности источников на пригодность для занятий.
ПОЧЕМУ ЭТО ВАЖНО
Работа показывает практические аппаратно‑программные компромиссы и выбор архитектуры при локальном развёртывании RAG‑репетиторов в кампусе, подчёркивая влияние производительности и точности источников на пригодность для занятий.