环境引导：利用数据流控制提升 Agent 的效用与安全性

英文标题：Environment Steering: Using Data Flow Control to Improve Agent Utility and Safety

该论文提出“环境引导”（Environment Steering）方法，旨在通过数据流控制提升 LLM Agent 的实用性与安全性。研究指出，即使已被要求安全行事，LLM Agent 仍可能发起不安全的工具调用。现有防御通常在执行前约束 Agent、修改工具输入输出，或依赖 LLM 评判器，但这些方法可能过度依赖模型行为，或直接阻断不安全操作。该工作对开发者设计更可靠的 Agent 工具调用控制机制具有参考意义。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB