把护栏当替罪羊:审计工具增强型 LLM Agent 中不忠实的安全拒绝
英文标题:Guardrails as Scapegoats: Auditing Unfaithful Safety Refusals in Tool-Augmented LLM Agents
该论文指出,当前针对工具增强型 LLM Agent 的评估框架,主要关注能力指标或显性的工具崩溃问题。对于返回 HTTP 200 但载荷为空、为 null 或格式错误等“静默”基础设施故障,现有评估往往缺乏审计。论文聚焦于安全拒绝是否忠实反映真实失败原因,这对开发者改进 Agent 的可观测性、错误归因与安全机制评估具有意义。原始摘要内容在所提供文本中不完整,未包含具体方法和实验数据。
打开原文相关 3.2 · 机会 3
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
BibTeX 格式引用
English / 原文
BibTeX formatted citation
×