AgentPolicyForge：从可执行环境到策略基准与自适应防护栏（Adaptive Guards）
英文标题：AgentPolicyForge: From Executable Environments to Policy Benchmarks and Adaptive Guards
在定制化 Agent 部署中，针对工具调用、资源访问及执行条件的策略约束至关重要。研究表明，仅靠在任务 Agent 的 Prompt 中提供策略规则无法可靠避免越权与违规行为，而训练专门的防护栏（Guard）则亟需大量正反例工具调用样本。AgentPolicyForge 探索了从可执行环境中构建策略评测基准并训练自适应护栏的方案，为大模型 Agent 的运行期安全管控与治理提供了重要参考。
打开原文相关 2.4 · 机会 3
2.0 KB
612 B
380 B
24.2 KB
34.7 KB
中文
论文信息与摘要
arXiv 编号：arXiv:2610.28989v1
公告类型：新提交（new）
摘要：定制化的 Agent 部署通常会对工具、资源和执行条件定义具体的策略规范。然而，仅在任务 Agent 的 Prompt 中注入这些策略并不能可靠地防止违规行为。训练一个防护栏（Guard）则需要大量符合或违反策略的工具调用样本……
BibTeX 格式引用
×
English / 原文
BibTeX formatted citation
×