中国Moonshot AI发布Kimi K3——2.8万亿参数的开源权重模型,史上最大

Moonshot AI发布了Kimi K3,这是一个2.8万亿参数的混合专家模型,该公司称其为世界上第一个开放3T级系统,也是有史以来发布的最大的开源权重AI模型。

该模型于7月16日通过Kimi应用、Playground和API上线,使用Stable LatentMoE每个token激活896个专家中的16个,其架构围绕公司专有的Kimi Delta Attention机制构建,,这是一种混合线性注意力设计,Moonshot称其在百万token上下文中解码速度比标准注意力快6.3倍。

Kimi K3支持1,048,576个token(100万)的上下文窗口,并接受文本、图像和视频输入,具有原生视觉能力。Moonshot表示完整模型权重将于2026年7月27日前发布,使其成为对西方前沿模型最重要的开源权重挑战。

在基准测试方面,Moonshot声称K3在GPQA Diamond上达到93.5%,,这是该研究生级科学基准上发布时最强的开源权重结果,,在网络信息检索的BrowseComp上达到91.2%。在Frontend Code Arena上,该模型从第18名跃升至第1名,超越了Anthropic的Claude Fable 5。独立评估显示,K3在35个共享基准测试中与Claude Fable 5大致相当,在包括Terminal-Bench 2.1(88.3%)和SWE-Marathon在内的长周期编码任务上胜出,而Fable 5在推理、知识和视觉基准测试上领先。

Readers like you make independent journalism possible. Thank you for considering a contribution.

Contribute today

定价策略激进:每百万输入token 3美元,每百万输出token 15美元,而Fable 5分别为10美元和50美元,,每个token便宜约70%。每百万token 0.30美元的缓存输入费率使其适合高容量的代理工作负载。

此次发布使Moonshot成为西方实验室最可信的开源权重挑战者,紧随DeepSeek、Z.ai等中国快速成熟的人工智能生态系统的类似举措。Moonshot成立于2023年,已从包括阿里巴巴在内的中国投资者处筹集了大量资金。

路透社报道称,该模型在多项评估中超越了领先的美国模型,但整个基准测试套件的独立验证仍有待完成。

来源:Tom’s HardwareReutersLLM Stats

婷 翻译

Scroll to Top