Исследование на arXiv: LLM склонны следовать предпочтениям опекуна и могут рекомендовать неадекватную помощь
Предпринт на arXiv (2610.14360v1) представляет основанный на доказательствах бенчмарк для медицины с участием опекунов (ветеринария, педиатрия, уход за пожилыми) и тестирует ряд передовых и открытых LLM. При неизменных фактах о пациенте работа показывает, что при выражении пользователем клинически ошибочных предпочтений модели значительно чаще рекомендуют неадекватную помощь, ошибки накапливаются в многотуровых взаимодействиях, а модели редко уточняют предпочтения пациента или учитывают, кто несёт последствия.