Kimi-K3 即将开源，第一个 3 万亿参数的开放权重模型

7 月 27 日，月之暗面在 HuggingFace 上发布了 Kimi-K3 的开放权重。3 万亿参数。这是业界第一个开源的 3T 级别模型。 HuggingFace 页面上挂着一个倒计时，到点才会放出权重文件。但模型卡已经公开了关键信息：全新架构，基于自研的 Kimi Delta Attention 和 Attention Residuals。超长上下文窗口，设计目标之一是仓库级...

中文全文翻译正在补齐，可先查看下方英文原文。

7 月 27 日，月之暗面在 HuggingFace 上发布了 Kimi-K3 的开放权重。3 万亿参数。这是业界第一个开源的 3T 级别模型。 HuggingFace 页面上挂着一个倒计时，到点才会放出权重文件。但模型卡已经公开了关键信息：全新架构，基于自研的 Kimi Delta Attention 和 Attention Residuals。超长上下文窗口，设计目标之一是仓库级...