WakeKV：面向“会改变主意”的注意力头的反应式、可逆 KV 驻留机制

英文标题：WakeKV: Reactive, Reversible KV Residency for Heads That Change Their Minds

WakeKV 关注 KV-cache 压缩中注意力头分类被一次性固定的问题：许多方法在线下或预填充阶段完成分类后，会在整个生成过程中保持不变。该论文在三种模型规模（1.5B 至 8B）以及三类场景中进行评估，包括针式检索、长链式思维等任务。其核心方向是让 KV 驻留策略具备反应式和可逆性，以适应注意力头在生成过程中的行为变化。对于开发者而言，这类方法有望改善长上下文推理和检索场景下 KV-cache 压缩的适应性。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB