批次自适应剪枝:面向语言推理模型的周期性神经元激活感知权重剪枝
英文标题:Batch-wise Adaptive Pruning: Periodic Neuron Activation-Aware Weight Pruning for Language Reasoning Model
这篇 arXiv:2608.14003v1 新论文提出了 Batch-wise Adaptive Pruning,一种面向语言推理模型(LRM)的周期性神经元激活感知权重剪枝方法。论文指出,LRM 通过生成较长的思维链来完成复杂任务,虽然性能较强,但会带来显著的推理计算成本。在生产环境中,批量推理对于实现高吞吐量至关重要,因此该方法旨在针对批处理推理场景降低模型计算开销。原文提供的摘要片段未包含具体实验数据或性能结论。
打开原文相关 1.6 · 机会 0
640 B
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
BibTeX 格式引用
English / 原文
BibTeX formatted citation
×