AtomSD:基于程序原子引导的 LLM Agent 自我蒸馏方法
英文标题:AtomSD: Procedural Atom-Guided Self-Distillation for LLM Agents
本文提出了面向大语言模型(LLM)Agent 的程序原子引导自我蒸馏方法 AtomSD。尽管现有 LLM 具备丰富的事实知识与推理能力,但在解决复杂现实任务时,仍高度依赖关于“如何行动”的程序性知识。针对传统方法直接利用整条执行轨迹进行学习易引入噪声和泛化不足的问题,该研究探索通过更细粒度的“程序原子”来引导模型的自我蒸馏。这一方法为降低 Agent 训练成本、提升复杂任务中的行动规划与执行泛化能力提供了新范式。
打开原文相关 4.8 · 机会 1
640 B
612 B
380 B
9.1 KB
18.2 KB
22.8 KB
24.2 KB
34.7 KB
中文
摘要
arXiv 编号:arXiv:2610.26926v1
公告类型:New
大语言模型(LLM)拥有广泛的事实性知识和强大的推理能力,但解决复杂任务同样需要关于“如何行动”的程序性知识(procedural knowledge)。现有方法通常通过执行轨迹(trajectories)来表征程序性知识……
BibTeX 引用格式
×
English / 原文
BibTeX formatted citation
×