ИССЛЕДОВАНИЕ · RESEARCH · #2559
Разрыв «доверие—соглашение» в повторяющихся многопользовательских переговорах LLM (arXiv:2610.31971v1)
В этой препринте на arXiv предложена рамочная модель повторяющихся многопользовательских переговоров по нескольким вопросам, где агенты LLM хранят попарные оценки доверия, а один участник тайно пытается сорвать соглашение. Исследование выявляет «разрыв доверие—соглашение»: агенты быстро находят недобросовестного игрока, и явное использование доверия может увеличить долю соглашений до 23 процентных пунктов, но точные оценки доверия улучшают результаты только если агенты явно ориентируются на них при принятии решений.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В этой препринте на arXiv предложена рамочная модель повторяющихся многопользовательских переговоров по нескольким вопросам, где агенты LLM хранят попарные оценки доверия, а один участник тайно пытается сорвать соглашение.
- Исследование выявляет «разрыв доверие—соглашение»: агенты быстро находят недобросовестного игрока, и явное использование доверия может увеличить долю соглашений до 23 процентных пунктов, но точные оценки доверия улучшают результаты только если агенты явно ориентируются на них при принятии решений.
- Это важно, потому что показывает: сами по себе оценки доверия недостаточны — разработчикам нужно явно интегрировать и направлять использование доверия в решениях LLM, чтобы улучшить исходы повторяющихся многопользовательских переговоров.
ПОЧЕМУ ЭТО ВАЖНО
Это важно, потому что показывает: сами по себе оценки доверия недостаточны — разработчикам нужно явно интегрировать и направлять использование доверия в решениях LLM, чтобы улучшить исходы повторяющихся многопользовательских переговоров.