推理感知压缩：识别并保护脆弱推理回路，实现大语言模型的高能效部署

英文标题：Reasoning-Aware Compression: Identifying and Protecting Vulnerable Reasoning Circuits for Energy-Efficient LLM Deployment

大型推理模型（LRM）在部署过程中会产生巨大的能耗开销，而现有的压缩方法通常对所有组件采用统一量化，极易损害关键的推理回路。为此，研究人员提出了一种推理感知压缩（Reasoning-Aware Compression）方法，旨在精准识别并保护这些脆弱的推理回路。该研究在尽可能保留核心推理性能的同时降低了模型能耗与体积，为开发者实现高能效、低成本的 LLM 部署提供了具有重要实用价值的优化路径。

打开原文相关 2.4 · 机会 0

中文

推理感知压缩：识别并保护脆弱推理回路，实现大语言模型的高能效部署

论文编号：arXiv:2609.05512v1
发布类型：最新公布（new）

摘要

大型推理模型（Large Reasoning Models, LRM）在部署过程中消耗巨大的能源成本。然而，当前的压缩方法通常在所有模型组件上应用统一量化（uniform quantization），这可能会破坏关键的推理回路。为此，我们提出了一种**推理感知压缩（Reasoning-Aware Compression）**方法……

推理感知压缩：识别并保护脆弱推理回路，实现大语言模型的高能效部署

中文

推理感知压缩：识别并保护脆弱推理回路，实现大语言模型的高能效部署

摘要

BibTeX 引用格式

English / 原文

BibTeX formatted citation