多教师在线策略蒸馏中的行为杠杆不平衡

英文标题：Behavior Leverage Imbalance in Multi-Teacher On-Policy Distillation

本文关注智能体语言模型在多教师在线策略蒸馏训练中面临的行为杠杆不平衡问题。智能体需要学会何时调用工具、解析工具返回结果以及何时直接作答，因此采用多教师蒸馏成为一种自然策略：让一位教师专精于工具调用，另一位专精于直接回答等。研究发现这种不平衡会显著影响学习效果，对构建更高效的智能体训练流程具有重要指导意义。

2.6 KB 2.1 KB 612 B 380 B 9.1 KB 22.8 KB 24.2 KB 34.7 KB