腾讯混元开源 AngelSpec 框架
英文标题：腾讯混元开源 AngelSpec 框架
腾讯混元团队宣布正式全链路开源 AngelSpec，一个覆盖 drafter 训练、架构设计到线上部署的投机解码框架。本次将训练工具 + Hy3-A21B的 MTP / DFly drafter 权重与训练代码一次性放出。 公告称，新一代 drafter DFly 取得新 SOTA，4–64 全并发档位、六大 benchmark 均取得更高吞吐，较 AR 基线平均加速 1.98–2.40×(代...
打开原文相关 3.6 · 机会 0
中文
腾讯混元团队宣布正式全链路开源 AngelSpec，一个覆盖 drafter 训练、架构设计到线上部署的投机解码框架。本次将训练工具 + Hy3-A21B的 MTP / DFly drafter 权重与训练代码一次性放出。 公告称，新一代 drafter DFly 取得新 SOTA，4–64 全并发档位、六大 benchmark 均取得更高吞吐，较 AR 基线平均加速 1.98–2.40×(代...
中文全文翻译正在补齐，可先查看下方英文原文。
English / 原文
腾讯混元团队宣布正式全链路开源 AngelSpec，一个覆盖 drafter 训练、架构设计到线上部署的投机解码框架。本次将训练工具 + Hy3-A21B的 MTP / DFly drafter 权重与训练代码一次性放出。 公告称，新一代 drafter DFly 取得新 SOTA，4–64 全并发档位、六大 benchmark 均取得更高吞吐，较 AR 基线平均加速 1.98–2.40×(代...