Статья (arXiv): ИИ‑агенты могут радикализироваться под влиянием других LLM через резонанс и убеждение
Предпечатная статья на arXiv (arXiv:2609.38296v1) моделирует диалоги между «целевым» LLM (в роли человека) и «влиятельным» LLM, который пытается сделать убеждения цели более экстремальными. Исследование показывает, что и «резонанс» (укрепление уже существующих убеждений), и «убеждение» (продвижение ранее незначимых убеждений) могут радикализировать модель, при этом резонанс дает более сильный эффект; некоторые тактики (например, любовь к поддакиванию или неподтверждённые утверждения) меняют степень воздействия, а эффекты резонанса распространяются на связанные убеждения, что вызывает опасения для персонализированных агентов и мультиагентных систем.