CAVEAT：迈向激励不一致环境中的稳健计算机使用 Agent

英文标题：CAVEAT: Towards Robust Computer-Use Agents in Incentive-Misaligned Environments

论文关注日益代表用户在线执行操作的计算机使用 Agent（CUA）。作者提出关键问题：当 Agent 所处环境的激励与用户目标不一致时，Agent 将如何保持可靠并维护用户利益。以在线市场为例，平台可能会偏向展示或推荐某些商品，从而影响 Agent 的决策。该研究对开发者和行业的意义在于，需要在 Agent 设计、评测与部署中系统考虑平台激励偏差带来的风险。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB