面向 LLM 安全分类的几何引导约束学习

英文标题：Geometry-Guided Constraint Learning for LLM Safety Classification

论文提出“Safety as Polytope”（SaP）方法，在 LLM 隐藏空间中学习线性半空间约束，用于安全分类。SaP 的一个问题是：不同安全类别需要分别调节约束数量 K。作者指出，利用稀疏自编码器（SAE）进行特征提取可以解决这一问题。在 14 个类别中的 12 个类别上，K=2 被证明是最优选择，这可能降低开发者进行逐类别参数调优的成本。

2.1 KB 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB