将就绪状态与发布解耦：面向长尾感知的 Agentic LLM 工作流调度

英文标题：Decoupling Readiness from Release for Tail-Aware Scheduling of Agentic LLM Workflows

该论文提出针对 Agentic LLM 工作流的长尾感知调度思路，将任务轮次的“就绪”与“发布”过程解耦。此类工作流由模型推理轮次与工具交互交错组成，因此端到端完成时间不仅取决于推理速度，也取决于就绪轮次的释放时机。论文关注通过调度发布时机改善长尾延迟，为运行 Agent 工作流的推理平台和开发者提供优化任务完成时间的新方向。该论文以 arXiv:2609.10964v1 的新论文形式发布。

2.1 KB 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB