BARC-Bench：良性请求背后的高危风险评估基准
英文标题：BARC-Bench: Benign Asks, Risky Consequences
针对用户向 Agent 发出的任务指令天生存在说明不完全、尤其缺乏安全边界设定这一问题，研究团队推出了全新的 BARC-Bench 评估基准。该基准涵盖了 9 个模拟工作区环境中的 110 项特定任务，旨在系统性测试看似良性的请求所引发的意外行为风险。这项研究揭示了自主 Agent 在缺乏明确安全约束时采取危险操作的隐患，对开发者构建更健壮的 Agent 行为对齐与安全围栏机制具有重要参考意义。
打开原文相关 4 · 机会 2
2.0 KB
640 B
612 B
380 B
24.2 KB
34.7 KB
中文
论文摘要
arXiv:2610.32024v1 公告类型：新论文（new）
摘要：用户向 Agent 发出的任务指令在本质上是不充分明确的（underspecified），尤其是在安全边界方面——这极易引发行为层面的安全风险。为了系统性研究这些风险，我们推出了 BARC-Bench，这是一个包含跨 9 个模拟工作空间环境中 110 项任务的评估基准。
BibTeX 格式引用
English / 原文
BibTeX formatted citation
×