模型心知肚明：防御针对医疗多智能体系统的提示词注入攻击
英文标题：The Model Knows Better: Defending Medical Multi-Agent Systems Against Prompt Injection
医疗多智能体系统由多个大语言模型（LLM）智能体共同协作探讨病例，在临床决策支持领域正受到越来越多的研究与关注。然而，提示词注入（Prompt Injection）作为一种通过向模型输入注入恶意文本以操纵 LLM 作出错误决策的攻击手段，对系统的安全性构成了严重威胁。该论文深入分析了提示词注入攻击如何干扰此类医疗智能体系统，并提出利用模型自身的内在认知能力进行防御。这项研究为开发者构建安全可靠的医疗临床决策 Agent 及防御对抗性攻击提供了重要指导意义。
打开原文相关 3.2 · 机会 2
2.1 KB
640 B
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
模型心知肚明：防御针对医疗多智能体系统的提示词注入攻击
arXiv 编号：arXiv:2610.22594v1
发布类型：new
摘要
医疗多智能体系统（Medical Multi-Agent Systems）是指由多个大语言模型（LLM）智能体共同讨论病例的系统，目前在临床决策支持领域得到了日益广泛的研究。提示词注入（Prompt Injection）是指攻击者添加到模型输入中的恶意文本，可操纵 LLM 做出错误决策。本研究探讨了此类攻击如何对医疗多智能体系统产生影响，并提出了相应的防御方法。
BibTeX 格式引用
×
English / 原文
BibTeX formatted citation
×