数据选择对推理的容量依赖效应

英文标题：Capacity-Dependent Effects of Data Selection for Reasoning

这篇论文研究推理监督微调（supervised fine-tuning）中，数据选择效果如何随学生模型容量而变化。论文指出，对于同一条指令，不同候选回答与学生模型当前分布的匹配程度可能存在显著差异。近年来基于似然的回答选择方法倾向于选择更接近学生当前分布的回答，本文进一步探讨这一策略与模型容量之间的关系。该研究可能为开发者在不同规模模型上进行推理数据筛选和微调策略设计提供参考。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB