🌙月之暗面发布 Kimi K3：全球首个开源 2.8 万亿参数模型

🌙月之暗面发布 Kimi K3：全球首个开源 2.8 万亿参数模型

月之暗面（Moonshot AI）在 HuggingFace 上正式开源 Kimi K3 模型，总参数量达到 2.8 万亿，激活参数 104B，是全球首个开放的 3T 级别模型。Kimi K3 采用 Kimi Delta Attention（KDA）与 Attention Residuals（AttnRes）新架构，基于 Stable LatentMoE 框架，896 个专家中每 token 激活 16 个，整体扩展效率较 Kimi K2 提升约 2.5 倍。模型原生支持文本、图像与视频理解，上下文窗口达 100 万 token，并支持 MXFP4 量化。

在 GPQA Diamond、BrowseComp、DeepSWE 等多项基准测试中，Kimi K3 与 GPT-5.6 Sol、Claude Fable 5 等前沿模型互有胜负。模型权重按 Kimi K3 License 开放，支持 Transformers、vLLM、SGLang 等多种推理框架部署。

Huggingface | MoonshotAI/Kimi-K3