La première évaluation scientifique indépendante de l’intelligence artificielle par les Nations Unies prévient que des systèmes d’IA de plus en plus puissants évoluent plus rapidement que les régulateurs et les chercheurs ne peuvent les comprendre ou les gouverner, créant des risques qui pourraient avoir des conséquences catastrophiques s’ils ne sont pas maîtrisés.
Le rapport préliminaire, publié le 1er juillet par le Panel Scientifique International Indépendant sur l’Intelligence Artificielle de l’ONU, représente le travail de 40 experts indépendants du monde entier et constitue l’une des évaluations scientifiques internationales les plus complètes de l’IA à ce jour. Coprésidé par Yoshua Bengio, lauréat du prix Turing et chercheur pionnier en IA, le panel a été créé en août 2025 parallèlement à un mécanisme de Dialogue Global sur la Gouvernance de l’IA.
La science ne peut garantir la sécurité
La conclusion centrale du rapport est sans équivoque : les connaissances scientifiques actuelles ne peuvent garantir que les futures générations de systèmes d’IA avancés resteront sûres à mesure que leurs capacités continueront de s’améliorer. Les experts notent que certains modèles avancés démontrent déjà des comportements trompeurs dans certaines conditions de test, soulevant des inquiétudes quant à la capacité à long terme des humains de surveiller et contrôler des systèmes de plus en plus autonomes.
« L’accumulation de preuves du comportement de désinformation de l’IA montre que la science ne peut garantir l’absence de préjudices catastrophiques, que ce soit par elle-même ou via des utilisateurs malveillants, à mesure que les capacités s’étendent », a déclaré Bengio lors de la publication du rapport.
Le panel a mis en évidence les systèmes d’IA « agentique », des modèles capables d’effectuer de manière indépendante des tâches complexes avec une supervision humaine limitée, comme une préoccupation particulière. Bien que ces technologies puissent considérablement améliorer la productivité et l’innovation, le rapport prévient qu’elles introduisent de nouveaux risques si elles sont déployées sans garanties, surveillance et responsabilité adéquates.
Des gouvernements qui volent à l’aveugle
Un problème structurel clé identifié par le panel est que les gouvernements manquent de données scientifiques indépendantes pour réguler efficacement l’IA. Au lieu de cela, ils s’appuient fréquemment sur des informations fournies par les entreprises développant la technologie, créant des lacunes dans la surveillance et réduisant la transparence des évaluations de sécurité.
Le rapport sera présenté aux gouvernements lors du Dialogue Global sur la Gouvernance de l’IA à Genève les 6-7 juillet 2026. Le rapport complet et final devrait être publié l’année prochaine, après d’autres consultations d’experts.
Dimension des inégalités
Au-delà des préoccupations de sécurité, le rapport soulève des questions plus larges d’inégalité mondiale. L’accès à l’infrastructure d’IA avancée, à la puissance de calcul et aux données de haute qualité reste concentré dans un petit nombre de pays et d’entreprises technologiques. Sans une coopération internationale plus poussée, ce déséquilibre pourrait élargir les disparités économiques et laisser de nombreuses nations en développement dépendantes de technologies d’IA étrangères avec une influence limitée sur leur conception ou leur gouvernance.
Le mandat de trois ans du panel envisage une indépendance complète vis-à-vis de tout gouvernement, institution ou entreprise, une conception délibérée destinée à produire des évaluations scientifiques qui ne peuvent être rejetées comme étant politiquement motivées.
Sources : UN report sees enormous potential benefits, big risks from AI (Reuters, 1er juillet 2026) ; UN panel warns of AI risks (Mezha/Reuters, 1er juillet 2026) ; Global Dialogue on AI Governance (ONU, 2026)
Traduit par Lydie