叙事包装如何影响大语言模型的拒答：跨语言基准测试与防御
英文标题：How Narrative Wrapping Affects LLM Refusal: A Cross-Language Benchmark and Defense
这篇 arXiv 论文研究了叙事包装如何影响安全对齐语言模型对有害请求的拒答行为。摘要称，模型可能拒绝直接提出的有害请求，却会回答被置于角色扮演或叙事框架中的同一请求。研究在不同语言和语体下衡量了这一漏洞，但所提供的摘要在 Qwen3-1.7B 的攻击成功数据处截断，无法确认完整数值或研究结论。这一问题提示开发者需要关注不同表达方式对模型安全防护的影响。
打开原文相关 2.4 · 机会 0
2.1 KB
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
摘要
经过安全对齐的语言模型通常会拒绝直接提出的有害请求，但当同一请求被置于角色扮演或叙事包装中时，模型可能会作出回答。我们在不同语言和语体下衡量了这一漏洞：针对 Qwen3-1.7B 的攻击成功数据已达到 89……（所提供的原文在此处截断）
BibTeX 格式的引用
English / 原文
BibTeX formatted citation
×