OrchSLM：探究小型语言模型（SLM）协同编排的动态机制
英文标题：OrchSLM: Probing the Dynamics of Small Language Model Orchestration
针对大语言模型（LLM）重度依赖云端基础设施所引发的高延迟、隐私泄露及高昂成本等问题，本研究提出了探索小型语言模型（SLM）协同编排动态机制的 OrchSLM。研究深入分析了在 Agentic 流水线中如何通过多个轻量化模型的高效协作来替代单一庞大云端模型。这一成果为在边缘设备与受限环境中部署低成本、低延迟且兼顾隐私的 Agent 架构提供了极具价值的技术路线与实践参考。
打开原文相关 3.2 · 机会 0
2.1 KB
640 B
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
论文编号：arXiv:2609.13470v1（类型：最新公告）
摘要
尽管大型语言模型（LLM）展现出了卓越的能力，但其对云级基础设施的深度依赖，为智能体流水线（Agentic Pipelines）的实际部署带来了根本性挑战，其中包括延迟、隐私安全、网络连通性以及高昂的计算成本……
BibTeX 格式引用
×
English / 原文
BibTeX formatted citation
×