MARCH:通过内容路由状态锚点扩展循环记忆
英文标题:MARCH: Scaling Recurrent Memory with Content-Routed State Anchors
该论文以 arXiv:2608.12435v1 形式发布,为一篇新增投稿。论文指出,Transformer 强大的长上下文检索能力很大程度上依赖随上下文长度增长的逐 token 记忆。该机制虽然灵活,但会带来训练阶段的二次计算复杂度,以及随上下文增长的键值(key-value)缓存。论文提出 MARCH,旨在通过内容路由的状态锚点扩展循环记忆能力。
打开原文相关 2.4 · 机会 0
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
BibTeX 格式化引用
English / 原文
BibTeX formatted citation
×