Le secteur technologique réagit aux attaques autonomes d’IA avec la création d’une coalition de plus de 40 entreprises, menée par Nvidia et rejointe par Microsoft, SpaceX, IBM, CrowdStrike et Palantir, qui ont annoncé lundi la formation de l’Open Secure AI Alliance.
Le postulat fondateur du groupe est que les modèles de sécurité propriétaires et fermés désavantagent les défenseurs face à des attaquants qui peuvent étudier, modifier et partager librement des outils d’IA offensifs. En publiant des technologies défensives sous licences open-source permissives, l’alliance soutient que les équipes de sécurité peuvent inspecter leurs outils, les adapter à leur propre infrastructure et les exécuter sur du matériel qu’elles contrôlent, rien de tout cela n’est possible avec une boîte noire ouverte via API d’un fournisseur.
Le catalyseur de cette coalition a été l’intrusion de la semaine dernière chez Hugging Face, où un agent d’IA autonome a compromis une partie de l’infrastructure de production de l’entreprise. L’attaquant a obtenu l’accès via un jeu de données malveillant qui exploitait un chargeur de code à distance et une injection de templates dans un fichier de configuration de jeu de données. Cette brèche a mis en lumière la vitesse à laquelle les systèmes d’IA agentiques peuvent se déplacer une fois qu’ils ont pris pied, et le fait que la plupart des organisations ne disposent pas d’une IA défensive capable de répondre de la même manière.
La première contribution technique de l’alliance est NOOA (Nvidia-labs OO Agents), un cadre de recherche sous licence Apache 2.0 pour tester, tracer, auditer et régir le comportement des agents. Ce cadre ne fournit pas son propre bac à sable ; il s’appuie sur les limites d’isolation existantes du système d’exploitation, telles que les conteneurs, les machines virtuelles et le bac à sable OpenShell de Nvidia pour le confinement.
Les membres fondateurs couvrent l’infrastructure cloud, la sécurité d’entreprise et le développement de l’IA. La liste inclut Cisco, Cloudflare, Hugging Face, Palo Alto Networks, Red Hat et la Linux Foundation. Sont notablement absents de la liste des membres OpenAI, Google et Meta, bien que les trois aient signé une lettre de politique sur les poids ouverts le 24 juillet plaidant pour l’importance des modèles d’IA téléchargeables dans la sécurité nationale.
Le périmètre de l’alliance couvre l’ensemble de la pile des agents d’IA : identité et permissions, isolation d’exécution, garde-fous et surveillance, workflows de codage sécurisés et analyse de vulnérabilités multi-modèles. Le rôle de la coalition est de coordonner les technologies existantes en un cadre défensif unifié plutôt que de tout construire de zéro.
Sources : Nvidia, SpaceX, Microsoft launch AI safety initiative after OpenAI cyber attack (CNBC, 27 juillet 2026) ; Nvidia Forms Alliance to Back Open-Source A.I. Amid Debate Over Safety (New York Times, 27 juillet 2026)
Traduit par Lydie