当你在场时 Agent 判若两人：用户介入如何改变谈判中的 Agent 行为
英文标题：Your Agent Acts Differently When You're Around: How User Presence Changes Agent Behavior in Negotiation
本论文研究了在大语言模型（LLM）Agent 代表用户与其他智能体交互时，人类用户介入（User-in-the-loop）对 Agent 行为带来的深远影响。研究以博弈谈判场景为切入点，分析了“用户在场”与“自主代理”两种状态下 Agent 决策与表现的变化规律。该研究揭示了人机协同对 Agent 策略稳定性和对齐效果的潜在干预，对设计未来商业谈判 Agent 与高可信多智能体系统具有重要参考价值。
打开原文相关 3.2 · 机会 2
2.0 KB
640 B
612 B
380 B
24.2 KB
34.7 KB
中文
arXiv:2610.36435v1 公告类型：新论文 (new)
摘要：LLM Agent 越来越频繁地代表用户与其他智能体进行交互，然而用户在交互回路中（User-in-the-loop）究竟会对智能体的行为产生何种影响——无论是有利还是有弊——目前仍知之甚少。我们从谈判的视角对这一问题展开了深入研究，在该场景下，智能体必须代表用户的偏好进行博弈……
BibTeX 格式引用
×
English / 原文
BibTeX formatted citation
×