UniGuard：面向跨接口安全泛化的多视角护栏学习
英文标题：UniGuard: Multi-View Guardrail Learning for Cross-Interface Safety Generalization
当前护栏模型（Guardrail models）广泛应用于大语言模型与 Agent 系统的安全防护层，但多数模型仅在固定的提示词或响应接口上训练，导致其在应对多轮对话、Agent 执行轨迹和多 Agent 协同等多样化交互接口时可靠性骤降。针对这一痛点，研究团队提出了 UniGuard，通过多视角护栏学习框架解决跨接口的安全泛化难题。该研究为开发者在复杂 Agent 场景下构建统一、高鲁棒性的安全防护层提供了全新方案与理论支撑。
打开原文相关 3.2 · 机会 1
2.0 KB
640 B
612 B
380 B
24.2 KB
34.7 KB
中文
论文信息
- arXiv 编号：arXiv:2610.30742v1
- 公告类型：new
摘要
护栏模型（Guardrail models）正日益被广泛用作大语言模型（LLM）和 Agent 系统的安全防护层。然而，现有的大多数护栏模型仅基于固定的提示词（Prompt）或回复（Response）接口进行训练。当相同的安全威胁场景以多轮对话（Conversation）、Agent 执行轨迹（Agent trajectory）或多 Agent 协同（Multi-agent interaction）等不同形式呈现时，这些护栏系统便会变得不可靠。
为此，UniGuard 提出了多视角护栏学习方法，致力于增强跨接口的安全泛化能力，确保安全策略能够在单轮交互、连续对话及自主 Agent 复杂执行流等多种异构接口间保持一致且稳健的防御表现。
English / 原文
BibTeX formatted citation
×