VEPA：面向终身 LLM Agent 护栏的可验证演进式形式化策略

英文标题：VEPA: Verified Evolving Formal Policy for Lifelong LLM Agent Guardrails

VEPA 提出了一种面向终身运行 LLM Agent 护栏的可验证、可演进形式化策略框架。研究指出，LLM Agent 日益需要访问私有文档、可变系统状态等敏感资源，因此可能带来严重的安全与安保风险。作者认为，运行时护栏应具备可检查、可复现和确定性的特征，以支持对 Agent 行为约束的可靠执行。该工作对开发者的意义在于，为需要长期运行、持续更新策略的 Agent 系统提供了更形式化的安全治理思路。

2.1 KB 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB