Moonshot AI a publié Kimi K3, un modèle mixture-of-experts de 2,8 billions de paramètres que l’entreprise décrit comme le premier système open de classe 3T au monde et le plus grand modèle open weight jamais publié.
Le modèle, mis en ligne le 16 juillet via l’application Kimi, le Playground et l’API, active 16 des 896 experts par token grâce à Stable LatentMoE, avec une architecture construite autour du mécanisme d’attention propriétaire Kimi Delta Attention, un design hybride d’attention linéaire qui, selon Moonshot, offre un décodage jusqu’à 6,3 fois plus rapide dans des contextes d’un million de tokens par rapport à l’attention standard.
Kimi K3 prend en charge une fenêtre de contexte de 1 048 576 tokens (1 million) et accepte les entrées texte, image et vidéo avec des capacités de vision natives. Moonshot indique que les poids complets du modèle seront publiés d’ici le 27 juillet 2026, ce qui en fait le défi open weight le plus significatif jamais lancé aux modèles frontaliers occidentaux.
Sur les benchmarks, Moonshot affirme que K3 atteint 93,5 % sur GPQA Diamond, le meilleur résultat open weight sur ce benchmark scientifique de niveau graduate à ce jour, et 91,2 % sur BrowseComp pour la recherche d’informations web. Sur Frontend Code Arena, le modèle est passé du rang 18 au rang 1, devant le Claude Fable 5 d’Anthropic. Les évaluations indépendantes montrent que K3 est globalement compétitif avec Claude Fable 5 sur 35 benchmarks partagés, remportant des victoires sur les tâches de codage à long horizon, notamment Terminal-Bench 2.1 (88,3 %) et SWE-Marathon, tandis que Fable 5 mène sur les benchmarks de raisonnement, de connaissance et de vision.
La tarification est agressive : 3 $ US par million de tokens d’entrée et 15 $ US par million de tokens de sortie, contre 10 $ et 50 $ pour Fable 5, soit environ 70 % de moins par token. Un tarif d’entrée en cache de 0,30 $ par million de tokens le rend économique pour les charges de travail agentiques à volume élevé.
Cette publication positionne Moonshot comme le challenger open weight le plus crédible face aux laboratoires occidentaux, après des initiatives similaires de DeepSeek, Z.ai et d’autres acteurs de l’écosystème IA chinois en pleine maturation. Moonshot a été fondée en 2023 et a levé des fonds importants auprès de bailleurs chinois, dont Alibaba.
Reuters a rapporté que le modèle surpasse les principaux modèles américains sur plusieurs évaluations, bien que la vérification indépendante de l’ensemble complet des benchmarks soit encore en attente.
Sources : Tom’s Hardware; Reuters; LLM Stats
Traduit par Lydie