从失控到可控:基于系统控制论的 Agent 安全防御体系设计与实践|AICon深圳
英文标题:从失控到可控:基于系统控制论的 Agent 安全防御体系设计与实践|AICon深圳
点击查看原文>
打开原文相关 3 · 机会 1
3.4 KB
80.2 KB
3.8 MB
415.7 KB
1.4 KB
1.9 KB
794 B
1.3 KB
550.5 KB
中文
Agent 安全正从单点防护转向系统级可控,需以控制论构建动态闭环防御体系。vivo 提出覆盖感知、决策、执行、反馈全链路的安全架构,并在真实业务中验证其可观测性与恢复能力。
Agent 安全是开放系统问题,需建模风险状态与环境反馈;
动态授权与行为约束替代静态规则,应对目标漂移与链式放大;
Red Team 验证+持续进化机制定义工程边界与演进路径。
适合AI安全工程师、智能体系统架构师、大模型平台负责人阅读。
English / 原文
Agent 安全正从单点防护转向系统级可控,需以控制论构建动态闭环防御体系。vivo 提出覆盖感知、决策、执行、反馈全链路的安全架构,并在真实业务中验证其可观测性与恢复能力。
Agent 安全是开放系统问题,需建模风险状态与环境反馈;
动态授权与行为约束替代静态规则,应对目标漂移与链式放大;
Red Team 验证+持续进化机制定义工程边界与演进路径。
适合AI安全工程师、智能体系统架构师、大模型平台负责人阅读。