成本治理的 RAG:多租户 LLM 系统中检索与生成的统一每租户成本归属
英文标题:Cost-Governed RAG: Unified Per-Tenant Cost Attribution Across Retrieval and Generation in Multi-Tenant LLM Systems
企业在多租户大型语言模型(LLM)系统中部署检索增强生成(RAG)时面临关键的治理缺口:生成成本可按 token 精细计量,但检索层(向量存储、相似度计算与嵌入 API 调用)的成本却缺乏归属,成为无人认领的共享开销。该论文提出“成本治理的 RAG”方法,旨在将检索与生成环节统一纳入每租户成本归属框架。这项研究对开发者构建可运营、可计费的企业级 RAG 应用具有重要指导意义,有助于实现多租户场景下的资源透明管控与公平计价。
打开原文相关 4.8 · 机会 3
483 B
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
BibTeX 格式的引用
×
English / 原文
BibTeX formatted citation
×