你的 Agent 有 1000 万上下文,为什么第 50 轮就开始失忆?
英文标题:你的 Agent 有 1000 万上下文,为什么第 50 轮就开始失忆?
长上下文能力常被描述为容量问题,似乎随着上下文窗口持续扩大即可解决。原文指出,实际有效上下文往往显著低于标称容量:NVIDIA 的 RULER 基准测试显示,有效上下文约为标称值的 50%–65%。Chroma 提出的“上下文腐烂”(context rot)现象也表明,模型在长对话或长任务中可能逐步丢失、混淆或无法检索早期信息。对开发者而言,这意味着构建 Agent 时不能仅依赖超长上下文窗口,还需要采用记忆检索、摘要压缩、状态管理与评测机制。
打开原文相关 3 · 机会 1
中文
请稍候……
English / 原文
Please wait...