PrivMeSA: конфиденциальная самo-эволюционирующая мультиагентная система для клинических LLM
В статье на arXiv представлен PrivMeSA — конфиденциальная самo-эволюционирующая мультиагентная система, в которой локальный клинический агент при необходимости консультируется с удалёнными моделями, а с помощью обучения с подкреплением балансирует точность задач и риск раскрытия/ре-идентификации; локальная память извлекает обобщённые уроки для повторного использования без обращения к удалённым моделям. На этапе проверки на наборе данных MIMIC-IV-ED PrivMeSA повышает среднюю точность задачи до 15,8 процентных пункта и снижает прямые раскрытия персональных данных с 98,0% до 0,2%, одновременно устраняя случаи, где пациента можно сузить до десяти или менее пациентов реестра.