保持 CALM：分析文生图模型中“全局不安全性”假设的局限性
英文标题：Keep It CALM: Analyzing the Limits of Global Unsafety in Text-to-Image Generation
本文针对文生图（Text-to-Image）生成中的免训练安全防御机制展开了深入研究。当前主流免训练防护通常依赖跨提示词通用的安全信号，例如单一的不安全方向或全局有害子空间。研究团队对这种“全局不安全性”假设进行了受控几何分析，揭示了其在实际应用中的有效边界与局限性。该结论为开发者和业界未来设计更精准、更具情境感知能力的生成模型安全对齐方案提供了重要理论参考。
打开原文相关 2.4 · 机会 0
2.1 KB
640 B
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
论文摘要
arXiv:2610.02300v1 公告类型：新提交（new）
文生图（Text-to-Image）生成的免训练安全防护机制通常依赖于一种可复用的安全信号，例如不安全方向或全局有害子空间，并将其广泛应用于各种提示词中。我们对这种“全局不安全性”假设进行了受控的几何分析……
BibTeX 格式引用
×
English / 原文
BibTeX formatted citation
×