NEXUS:面向工具调用型 LLM Agent 的结构化运行时安全机制
英文标题:NEXUS: Structured Runtime Safety for Tool-Using LLM Agents
论文提出 NEXUS(Neural EXecution Utility and Safety),用于监控会调用工具并执行高影响操作的 LLM Agent 的运行时安全。该方法以结构化计划为基础,并采用形式化干预策略来决定何时介入 Agent 的执行过程。原始摘要在“选择 am”处截断,因此未提供完整的干预选择机制、实验设置或量化结果。该工作表明,随着 Agent 获得更多实际操作权限,面向执行阶段的安全监控将成为开发者和行业部署的重要环节。
打开原文相关 3.2 · 机会 2
640 B
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
NEXUS:面向工具调用型 LLM Agent 的结构化运行时安全机制
arXiv:2607.19356v1
公告类型:新论文
摘要
会调用工具的 LLM Agent 正越来越多地执行具有高影响力的操作,因此,运行时安全监控至关重要。我们提出 NEXUS(Neural EXecution Utility and Safety),一种基于结构化计划的安全监控器;它采用形式化干预策略来选择 am
注:所提供的原始摘要在“select am”处截断,后续内容未提供。
BibTeX 格式引用
English / 原文
BibTeX formatted citation
×