StepSafe：通过上下文感知的安全推理学习及时干预

英文标题：StepSafe: Learning Timely Intervention with Context-Aware Safety Reasoning

论文提出 StepSafe，聚焦 Agent 系统中的及时安全干预问题。作者指出，Agent 安全具有天然的序列性：某个动作是否安全，取决于此前的动作、工具输出、信息披露以及多个 Agent 之间的交互。研究强调，安全护栏正从事后对完整轨迹进行评估，转向在执行过程中结合上下文进行推理和干预。这一方向对构建能够实时识别风险、避免不安全操作扩散的 Agent 安全机制具有意义。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB