TAF-MED:在明确自我治疗意图下 LLM 多轮安全拒答的失效
英文标题:TAF-MED: Multi-Turn Safety Refusal Collapse in LLMs Under Declared Self-Treatment Intent
该论文提出 TAF-MED,研究大语言模型(LLM)在用户明确表达自行治疗意图后,药物安全边界能否在后续多轮对话中持续保持。研究关注 LLM 提供的健康信息可能影响用户治疗决策这一风险。论文指出,现有基准测试尚未单独评估模型在明确自我治疗意图后的追问中,是否会出现安全拒答失效。该研究对医疗类 AI Agent、健康问答产品及其安全评估具有参考意义。
打开原文相关 2.4 · 机会 0
640 B
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
BibTeX 格式引用
×
English / 原文
BibTeX formatted citation
×