ИССЛЕДОВАНИЕ · RESEARCH · #1327
PrivMeSA: конфиденциальная самo-эволюционирующая мультиагентная система для клинических LLM
В статье на arXiv представлен PrivMeSA — конфиденциальная самo-эволюционирующая мультиагентная система, в которой локальный клинический агент при необходимости консультируется с удалёнными моделями, а с помощью обучения с подкреплением балансирует точность задач и риск раскрытия/ре-идентификации; локальная память извлекает обобщённые уроки для повторного использования без обращения к удалённым моделям. На этапе проверки на наборе данных MIMIC-IV-ED PrivMeSA повышает среднюю точность задачи до 15,8 процентных пункта и снижает прямые раскрытия персональных данных с 98,0% до 0,2%, одновременно устраняя случаи, где пациента можно сузить до десяти или менее пациентов реестра.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В статье на arXiv представлен PrivMeSA — конфиденциальная самo-эволюционирующая мультиагентная система, в которой локальный клинический агент при необходимости консультируется с удалёнными моделями, а с помощью обучения с подкреплением балансирует точность задач и риск раскрытия/ре-идентификации; локальная память извлекает обобщённые уроки для повторного использования без обращения к удалённым моделям.
- На этапе проверки на наборе данных MIMIC-IV-ED PrivMeSA повышает среднюю точность задачи до 15,8 процентных пункта и снижает прямые раскрытия персональных данных с 98,0% до 0,2%, одновременно устраняя случаи, где пациента можно сузить до десяти или менее пациентов реестра.
- Решает ключевую проблему риска конфиденциальности при локально‑удалённых консультациях LLM, обучаясь контролировать раскрытие данных и повторно используя удалённую экспертизу локально, при этом демонстрирует значительный рост точности и резкое снижение риска раскрытия и ре-идентификации на клинических данных.
ПОЧЕМУ ЭТО ВАЖНО
Решает ключевую проблему риска конфиденциальности при локально‑удалённых консультациях LLM, обучаясь контролировать раскрытие данных и повторно используя удалённую экспертизу локально, при этом демонстрирует значительный рост точности и резкое снижение риска раскрытия и ре-идентификации на клинических данных.