D-Skill：通过 Agent 技能蒸馏教师知识
英文标题：D-Skill: Distilling Teacher Knowledge through Agent Skills
前沿大语言模型 Agent 在处理复杂任务时表现出色，但高昂的推理成本使得将其能力迁移至轻量级小模型成为迫切需求。传统的知识蒸馏通常依赖参数更新，并需要直接访问学生模型的权重，在实际场景中受到诸多限制。最新研究提出了 D-Skill 框架，探索通过 Agent 技能（Agent Skills）将教师模型的能力蒸馏迁移给学生模型。该研究为降低前沿 Agent 部署成本以及在不依赖传统微调的情况下赋能小模型提供了全新技术思路。
打开原文相关 2.4 · 机会 2
2.0 KB
612 B
380 B
24.2 KB
34.7 KB
中文
arXiv:2610.28914v1
公告类型：新论文（Announce Type: new）
摘要
前沿语言模型 Agent 在复杂任务上展现出卓越的能力，但其高昂的推理成本使得将其能力迁移至小型模型变得至关重要。传统的知识蒸馏方法主要通过参数更新来实现这一点，这通常要求能够访问学生模型的内部权重……
BibTeX 格式引用
×
English / 原文
BibTeX formatted citation
×