ИССЛЕДОВАНИЕ · RESEARCH · #2325
Препринт: сотрудничество многo‑агентных LLM улучшает задачи, но не гарантирует снижение галлюцинаций в клинических задачах
В препринте на arXiv (2610.27027v1) исследуют один одно‑модельный базовый подход и три мультииагентные топологии на четырёх моделях и трёх клинических задачах, оценивая галлюцинации внутри рассуждений по таксономии фактичности и верности наряду с метриками задач. Авторы показывают, что сотрудничество часто повышает качество решения задач, но не последовательно уменьшает количество галлюцинаций; эффекты зависят от модели (из 36 сравнений в 12 были разрешимые изменения: 4 уменьшения и 8 увеличений), а в эксперименте самокоррекции все модели, кроме Llama-3.2-3B-Instruct, уменьшили галлюцинации при показе отмеченных ошибок.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В препринте на arXiv (2610.27027v1) исследуют один одно‑модельный базовый подход и три мультииагентные топологии на четырёх моделях и трёх клинических задачах, оценивая галлюцинации внутри рассуждений по таксономии фактичности и верности наряду с метриками задач.
- Авторы показывают, что сотрудничество часто повышает качество решения задач, но не последовательно уменьшает количество галлюцинаций; эффекты зависят от модели (из 36 сравнений в 12 были разрешимые изменения: 4 уменьшения и 8 увеличений), а в эксперименте самокоррекции все модели, кроме Llama-3.2-3B-Instruct, уменьшили галлюцинации при показе отмеченных ошибок.
- Работа демонстрирует, что мультииагентные системы могут повышать качество задач в медицине без надёжного улучшения достоверности рассуждений, подчёркивая важность выбора модели и оценки на уровне рассуждений для надёжного мед‑ИИ.
ПОЧЕМУ ЭТО ВАЖНО
Работа демонстрирует, что мультииагентные системы могут повышать качество задач в медицине без надёжного улучшения достоверности рассуждений, подчёркивая важность выбора модели и оценки на уровне рассуждений для надёжного мед‑ИИ.