SFT 应该学习什么？面向可泛化后训练的条件信息增益

英文标题：What Should SFT Learn? Conditional Information Gain for Generalizable Post-Training

该论文探讨监督微调（SFT）在大语言模型后训练阶段应学习哪些信息，以提升泛化能力。摘要指出，固定示例能够直接向模型引入所需的推理策略与行为模式，因此 SFT 仍是常用的后训练方法。论文标题表明，作者将以“条件信息增益”为核心视角分析或指导 SFT 数据与目标的选择，这对开发更具泛化性的训练流程具有意义。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB