HEAL: 4‑шаговая методика и метрика для оценки здравоохранительной справедливости моделей ИИ
Исследователи Google (Шекерманн и Хорн) предлагают HEAL — четырёхшаговую методику и метрику для количественной оценки того, насколько модели машинного обучения в здравоохранении отдают приоритет производительности для популяций с худшими исходами здоровья. Статья в Lancet eClinicalMedicine описывает шаги по выявлению факторов неравенства и метрик, количественной оценке существующих различий, измерению производительности по субпопуляциям и вычислению степени антикорреляции между производительностью и неравенствами; в качестве примера приведена дерматологическая CNN, обученная на ~29 тыс. случаев (288 состояний).