Alors que Washington débat de la possibilité de restreindre ou d’interdire les modèles d’IA chinois à poids ouverts, une entreprise américaine qui construit des modèles open-source pour vivre a pris une position impopulaire : les modèles ne sont pas dangereux, et tenter de les interdire est la mauvaise approche.
Arcee, un laboratoire d’IA open-source basé aux États-Unis, soutient que les modèles chinois à poids ouverts comme Kimi K3 de Moonshot AI et la série Qwen d’Alibaba ne présentent pas un risque de sécurité plus élevé que tout autre logiciel téléchargeable. Le directeur technique de l’entreprise, Lucas Atkins, conteste le récit selon lequel les modèles chinois seraient intrinsèquement dangereux, une vision qui gagne du terrain parmi les décideurs politiques américains et les laboratoires d’IA propriétaires.
« Beaucoup de gens considèrent cela comme similaire à un programme logiciel chinois », a déclaré Atkins à TechCrunch. « Ce n’est fondamentalement pas ainsi que ces modèles sont entraînés. »
La distinction technique qu’établit Atkins est importante. Les modèles à poids ouverts publient leurs paramètres entraînés, les poids appris qui définissent le comportement du modèle. Contrairement à un binaire compilé provenant d’un vendeur inconnu, ces paramètres peuvent être inspectés, testés pour les biais et la toxicité, et post-entraînés pour des cas d’utilisation spécifiques en entreprise. Crucially, une fois qu’un modèle est téléchargé et exécuté dans l’infrastructure propre d’une entreprise, il n’a aucune capacité à communiquer avec l’extérieur ou à exécuter du code à distance.
Le risque théorique d’une porte dérobée cachée, un modèle entraîné à produire des résultats malveillants lorsqu’il est déclenché par une entrée spécifique, n’est pas nul, a reconnu Atkins. Mais il a décrit la difficulté pratique d’élaborer une telle attaque comme extrême. « Je ne sais pas comment on ferait cela », a-t-il déclaré.
L’argument central d’Atkins est que la conversation devrait passer de la restriction à la concurrence. « Au lieu que la conversation porte sur la façon d’interdire les modèles chinois, elle devrait porter sur la façon de favoriser un bon écosystème ouvert ici aux États-Unis », a-t-il déclaré.
La position d’Arcee n’est pas entièrement altruiste, l’entreprise bénéficie de l’écosystème ouvert qu’elle défend. Les modèles chinois ouverts fournissent une base sur laquelle Arcee peut construire, comme l’a noté Atkins : « Nous pouvons apprendre ce qu’ils ont fait. Nous pouvons construire par-dessus. Ensuite, ils peuvent apprendre ce que nous faisons. » La réponse concurrentielle ultime, a-t-il soutenu, est de « publier un modèle meilleur. »
Le débat survient à un moment où les modèles chinois à poids ouverts gagnent du terrain parmi les entreprises américaines, principalement parce qu’ils offrent une inférence à une fraction du coût symbolique des modèles américains propriétaires. Pour les entreprises confrontées à la pression d’adopter l’IA tout en gérant les coûts, l’économie est difficile à ignorer, et plus difficile encore à remplacer par une interdiction.
Sources : Arcee, a US open source AI lab, says Chinese models are not inherently dangerous (TechCrunch, 22 juillet 2026)
Traduit par Lydie