知道该信任谁还远远不够：重复多方 LLM Agent 谈判中的“信任—协议鸿沟”

英文标题：Knowing Whom to Trust is not Enough: The Trust--Agreement Gap in Repeated Multi-Party LLM Negotiation

大语言模型（LLM）Agent 越来越多地代表个人和组织参与谈判，但在复杂重复的多方交互场景中依然极易受到对手的操纵。研究指出，仅凭识别谈判对手是否值得信任并不足以达成有效且安全的一致，多方博弈中存在明显的“信任—协议鸿沟”。这一发现表明经典多智能体信任机制在复杂生成式 Agent 面临新瓶颈，对开发具备对抗操纵能力、可靠多方协作 Agent 系统的研发人员具有重要警示与指导意义。

2.0 KB 640 B 612 B 380 B 24.2 KB 34.7 KB