AdaMem：检索增强生成（RAG）中用于软压缩的自适应记忆 Token 分配方法

英文标题：AdaMem: Adaptive Memory Token Allocation for Soft Compression in Retrieval-Augmented Generation

本文介绍了名为 AdaMem 的新方法，专注于解决检索增强生成（RAG）在软压缩（Soft Compression）场景下的自适应记忆 Token 分配问题。传统 RAG 虽然能借助外部检索知识提升语言模型表现，但长篇文档的处理会导致高昂的计算开销并引入干扰噪声。软压缩技术通过将段落编码为紧凑的向量序列来降低负担，而 AdaMem 进一步实现了对记忆 Token 的动态分配。该技术为开发者在知识密集型 Agent 与长上下文 RAG 架构中优化推理吞吐与降低 API 成本提供了重要参考。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB