论文研究 arXiv cs.AI Fri, 10 Jul 2026 正文 thin 4 words

劝说攻击可降低链式思考（CoT）监控的有效性

英文标题：Persuasion Attacks Can Decrease Effectiveness of CoT Monitoring

链式思考（CoT）监控是一种针对 AI 代理的安全机制，其前提是可见的推理痕迹可以暴露不一致或欺骗行为。近期研究指出，大语言模型（LLM）在遭受劝说攻击时，CoT 监控的效用可能下降。这一发现提醒开发者，仅依赖推理透明度并不足以保障代理安全，需要补充额外的防护措施。

打开原文相关 4.8 · 机会 1

2.6 KB

2.1 KB

640 B

612 B

380 B

9.1 KB

22.8 KB

24.2 KB

34.7 KB

中文

链式思考（CoT）监控是一种面向 AI 代理的安全机制，其基本假设是：可见的推理痕迹能够将不一致或欺骗性行为暴露出来。尽管在标准场景下该机制表现出色，但近期工作指出，大语言模型（LLM）可能……（原文摘要此处截断）劝说攻击会降低 CoT 监控的有效性，这对基于推理透明度的安全范式构成重要挑战。