月之暗面发布Kimi K3，开源模型参数规模升至2.8万亿

开源模型的参数量被推到2.8万亿。月之暗面把基准分数、价格和开放日期一起放了出来。

7月16日晚，月之暗面发布Kimi K3。总参数2.8万亿，是目前全球参数最大的开源模型，也是首个超过2万亿参数的开源模型。它有100万token的上下文窗口、原生视觉理解，以及始终开启的推理模式，面向软件工程、知识工作、深度研究和多模态理解。月之暗面是Kimi的开发公司。参数量大，不等于每次推理都把2.8万亿全部算一遍。

架构上有两项自研设计。一项是混合线性注意力Kimi Delta Attention，缩写KDA。一项是用来替代残差连接的Attention Residuals，缩写AttnRes。同时扩大专家混合的稀疏度，结合Stable Latent MoE之后，可以在896个专家里激活16个，整体扩展效率比K2提高约2.5倍。专家混合，白话就是模型里有很多小专家，每次只叫醒其中几个，用来省计算。残差连接则是深层网络把前一层信号留一条近道，避免训练时信息丢光。

公开基准：

1. GDPval-AA v2为1687分，位列第三，仅次于Claude Fable 5 Max与GPT-5.6 Sol Max
2. AA-Briefcase为1527分，升至第二，超过GPT-5.6 Sol Max
3. BrowseComp为91.2分，取得该项最高成绩
4. Arena.AI前端代码竞技场为1679分，位居榜首

月之暗面自己说，K3整体仍落后于最强的闭源模型，但稳定超过其他模型。官方还展示了一项概念验证：K3连续自主运行48小时，使用开源电子设计自动化工具，完成一颗4平方毫米芯片的完整设计流程，并做到100MHz时序收敛。电子设计自动化，就是用软件完成画芯片、查时序这些步骤。这是概念验证，不是已经流片量产。

API价格为输入每百万token 3美元、输出15美元，缓存输入0.30美元。借助Mooncake分离式推理架构，编程场景缓存命中率超过90%，实际输入成本约为标准价的四分之一。分离式推理，白话就是把预填充和生成拆到不同资源上，让重复的前文可以命中缓存。完整权重预计7月27日向社区开放。此前在LMArena上以匿名身份「Kivine」出现的模型，已被确认为K3。

分数领先的项目和「整体仍落后最强闭源」可以同时成立，因为榜单不是同一把尺子。下一观察点是7月27日权重是否按时开放，以及48小时芯片设计能否被外部按同样的EDA流程复现。