面向长程 LLM Agent 的 Agentic Soft Tokens 模型内上下文压缩
英文标题：In-Model Context Compression with Agentic Soft Tokens for Long-Horizon LLM Agents
长程 LLM Agent 在应对复杂和持续性任务时发挥着关键作用，但不断膨胀的交互上下文会引发高昂的计算成本，并掩盖关键决策证据。针对这一瓶颈，该研究提出了基于 Agentic Soft Tokens 的模型内上下文压缩方法。该方案旨在显著降低长程交互的显存与计算开销，同时保留与决策高度相关的核心上下文信息，为构建更高效、低成本的自主 Agent 系统提供了新路径。
打开原文相关 3.2 · 机会 1
2.0 KB
612 B
380 B
24.2 KB
34.7 KB
中文
面向长程 LLM Agent 的 Agentic Soft Tokens 模型内上下文压缩
论文编号：arXiv:2610.41291v1 (Announce Type: new)
摘要
长程 LLM Agent 在解决复杂且持续的任务中发挥着重要作用，但其交互上下文会随着任务推进而不断累积膨胀。然而，这些不断累积的上下文不仅会显著增加计算成本，还会掩盖与决策密切相关的关键证据。现有……
BibTeX 引用格式
×
English / 原文
BibTeX formatted citation
×