中文资讯 InfoQ AI Sun, 09 Aug 2026 正文 ok 10 words

从失控到可控:基于系统控制论的 Agent 安全防御体系设计与实践|AICon深圳

英文标题:从失控到可控:基于系统控制论的 Agent 安全防御体系设计与实践|AICon深圳

点击查看原文>
打开原文相关 3 · 机会 1
media3.4 KB media80.2 KB media3.8 MB media415.7 KB media1.4 KB media1.9 KB media794 B media1.3 KB media550.5 KB

中文

Agent 安全正从单点防护转向系统级可控,需以控制论构建动态闭环防御体系。vivo 提出覆盖感知、决策、执行、反馈全链路的安全架构,并在真实业务中验证其可观测性与恢复能力。

Agent 安全是开放系统问题,需建模风险状态与环境反馈;

动态授权与行为约束替代静态规则,应对目标漂移与链式放大;

Red Team 验证+持续进化机制定义工程边界与演进路径。

适合AI安全工程师、智能体系统架构师、大模型平台负责人阅读。

English / 原文

Agent 安全正从单点防护转向系统级可控,需以控制论构建动态闭环防御体系。vivo 提出覆盖感知、决策、执行、反馈全链路的安全架构,并在真实业务中验证其可观测性与恢复能力。

Agent 安全是开放系统问题,需建模风险状态与环境反馈;

动态授权与行为约束替代静态规则,应对目标漂移与链式放大;

Red Team 验证+持续进化机制定义工程边界与演进路径。

适合AI安全工程师、智能体系统架构师、大模型平台负责人阅读。