BACKDROP 揭示 Agent 所处环境带来的成本

英文标题：The Backdrop Exposes What the World Around an Agent Costs It

论文提出了 BACKDROP，用于评估 Agent 在会被其他人持续改变的真实环境中执行任务时面临的风险与成本。现有 Agent 基准通常假设任务环境保持静态，但实际部署中，消息、订单确认等外部输入可能改变 Agent 的行动目标或诱导其泄露敏感信息。该研究强调，开发者和行业在评估 Agent 时，除了关注任务完成能力，还应考虑动态环境、外部干扰与社会工程式操纵带来的影响。

2.1 KB 865 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB