НОВОСТЬ · RESEARCH · #229
HEAL: 4‑шаговая методика и метрика для оценки здравоохранительной справедливости моделей ИИ
Исследователи Google (Шекерманн и Хорн) предлагают HEAL — четырёхшаговую методику и метрику для количественной оценки того, насколько модели машинного обучения в здравоохранении отдают приоритет производительности для популяций с худшими исходами здоровья. Статья в Lancet eClinicalMedicine описывает шаги по выявлению факторов неравенства и метрик, количественной оценке существующих различий, измерению производительности по субпопуляциям и вычислению степени антикорреляции между производительностью и неравенствами; в качестве примера приведена дерматологическая CNN, обученная на ~29 тыс. случаев (288 состояний).
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Исследователи Google (Шекерманн и Хорн) предлагают HEAL — четырёхшаговую методику и метрику для количественной оценки того, насколько модели машинного обучения в здравоохранении отдают приоритет производительности для популяций с худшими исходами здоровья.
- Статья в Lancet eClinicalMedicine описывает шаги по выявлению факторов неравенства и метрик, количественной оценке существующих различий, измерению производительности по субпопуляциям и вычислению степени антикорреляции между производительностью и неравенствами; в качестве примера приведена дерматологическая CNN, обученная на ~29 тыс.
- HEAL даёт практический количественный инструмент для выявления того, усугубляет ли или снижает ли модель существующие различия в здоровье, помогая при оценке и доработке моделей, несмотря на то, что он не устанавливает каузальный эффект.
ПОЧЕМУ ЭТО ВАЖНО
HEAL даёт практический количественный инструмент для выявления того, усугубляет ли или снижает ли модель существующие различия в здоровье, помогая при оценке и доработке моделей, несмотря на то, что он не устанавливает каузальный эффект.