OBC-Prune：基于结果校准的大型推理模型剪枝技术
英文标题：OBC-Prune: Outcome-Based Calibration for Large Reasoning Model Pruning
大型推理模型（LRM）在给出最终答案前往往需要生成冗长的思维链（CoT）推理轨迹，带来了极高的推理延迟与计算开销。模型剪枝是降低推理成本的有效手段，但其剪枝后的性能高度依赖用于评估参数重要性的校准数据质量。为此，研究团队提出了 OBC-Prune，通过基于结果的校准机制来指导参数稀疏化与剪枝。该方法为降低复杂推理模型的部署门槛提供了新的技术路线，有助于开发者在资源受限场景下高效落地推理型 AI 应用。
打开原文相关 1.6 · 机会 0
2.1 KB
640 B
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
OBC-Prune：面向大型推理模型剪枝的基于结果校准方法
arXiv 编号：arXiv:2609.17890v1
发布类型：最新论文（Announce Type: new）
摘要
大型推理模型（Large Reasoning Models, LRM）在输出最终答案前会生成冗长的思维链（Chain-of-Thought, CoT）轨迹，这引发了巨大的推理计算开销。模型剪枝可以有效降低这一成本，但其剪枝效果很大程度上取决于用来评估参数重要性的校准数据（Calibration Data）。
BibTeX 格式引用
English / 原文
BibTeX formatted citation
×