月之暗面重磅发布Kimi K3:全球首个2.8万亿参数开源模型

PromptTree|阅读 1
2026/07/17 12:11
月之暗面重磅发布Kimi K3:全球首个2.8万亿参数开源模型

7月16日晚,月之暗面正式发布Kimi K3大模型,总参数规模达到2.8万亿,是目前全球参数最大的开源AI模型,也是首个超2万亿级别的开源模型。

该模型采用月之暗面自主研发的两项核心架构创新——混合线性注意力机制Kimi Delta Attention(KDA)和作为残差连接替代方案的Attention Residuals(AttnRes),同时进一步扩大了Mixture of Experts(MoE)的稀疏度,结合Stable Latent MoE框架后,模型可以在896个专家中高效激活16个,整体扩展效率相比K2提升约2.5倍。

Kimi K3拥有100万token的上下文窗口、原生视觉理解能力以及始终开启的推理模式,面向软件工程、知识工作、深度研究、多模态理解等复杂任务场景优化。基准测试结果显示,K3在衡量44个职业和9大行业实际任务的GDPval-AA v2基准上以1687分位列第三,仅次于Claude Fable 5 Max和GPT-5.6 Sol Max;在Artificial Analysis的私有代理基准AA-Briefcase上以1527分攀升至第二位,超越了GPT-5.6 Sol Max;在长周期高难度信息检索基准BrowseComp上取得91.2分的最高成绩;在Arena.AI的前端代码竞技场上以1679分位居榜首。

月之暗面坦言K3整体表现仍落后于最强闭源模型,但稳定超过其他所有模型。官方还展示了一项概念验证:Kimi K3在48小时连续自主运行中,独立使用开源EDA工具完成了一颗4平方毫米芯片的完整设计流程,从架构设计到优化验证,最终实现100MHz时序收敛。

API定价方面,输入每百万token 3美元、输出每百万token 15美元,缓存输入仅需0.30美元每百万;得益于Mooncake分离式推理架构,编程场景缓存命中率超90%,实际输入成本约为标准价格的1/4。模型完整权重预计于7月27日正式向社区开放。此前以匿名身份"Kivine"出现在LMArena竞技平台的神秘模型已被确认为K3。