7 月 28 日，月之暗面正式开源 2.8 万亿参数模型 Kimi K3。同日，摩尔线程宣布基于 AI 训推一体智算卡 MTT S5000 及 MUSA 软件栈，率先完成该模型的极速适配与稳定拉起，展现出国产全功能 GPU 支撑万亿级大模型的工程实力。
Kimi K3 是全球首个开源的 3 万亿级别模型，采用 KDA 混合线性注意力机制与 Stable LatentMoE 等架构创新，拥有 100 万 token 上下文窗口，原生支持视觉理解。摩尔线程在模型开源后第一时间打通了从 SGLang-MUSA 推理框架到 MATE 算子库、Triton MUSA 编译器及分布式通信链路的全栈适配，为后续规模化部署奠定基础。
摩尔线程
© 版权声明
文章版权归作者所有，未经允许请勿转载。
THE END
暂无评论内容