论文研究 arXiv cs.CL Mon, 03 Aug 2026 正文 thin 4 words

Mixture-of-Translators：在异构大语言模型之间转换 KV 缓存

英文标题：Mixture-of-Translators: Translating KV Caches Across Heterogeneous Large Language Models

该论文关注异构大语言模型（LLM）系统中 KV 缓存无法跨模型复用的问题。随着共享上下文、检索证据和多智能体对话历史日益普及，不同模型架构之间的上下文状态迁移成为关键瓶颈。论文提出 Mixture-of-Translators（翻译器混合）方法，旨在实现异构 LLM 间的 KV 缓存转换。该方向有望减少跨模型协作时重复预填充上下文带来的计算和延迟成本，对多模型 Agent 系统及推理基础设施具有潜在意义。

打开原文相关 4.8 · 机会 1