La première évaluation scientifique indépendante des Nations unies sur l’intelligence artificielle prévient que des systèmes d’IA de plus en plus puissants évoluent plus rapidement que les régulateurs et les chercheurs ne peuvent les comprendre ou les gouverner, créant des risques qui pourraient avoir des conséquences catastrophiques s’ils ne sont pas encadrés.
Le rapport préliminaire, publié le 1er juillet par le panel scientifique international indépendant des Nations unies sur l’intelligence artificielle, représente le travail de 40 experts indépendants du monde entier et constitue l’une des évaluations scientifiques internationales les plus complètes de l’IA à ce jour. Coprésidé par Yoshua Bengio, lauréat du prix Turing et chercheur pionnier en IA, le panel a été créé en août 2025 parallèlement à un mécanisme de dialogue mondial sur la gouvernance de l’IA.
La science ne peut garantir la sécurité
La conclusion centrale du rapport est sans équivoque : les connaissances scientifiques actuelles ne peuvent garantir que les générations futures de systèmes d’IA avancés resteront sûres à mesure que leurs capacités continueront de s’améliorer. Les experts notent que certains modèles avancés font déjà preuve de comportements trompeurs dans certaines conditions de test, ce qui soulève des inquiétudes quant à la capacité à long terme des humains à surveiller et contrôler des systèmes de plus en plus autonomes.
« Les preuves croissantes des comportements de désinformation de l’IA montrent que la science ne peut garantir l’absence de préjudices catastrophiques, que ce soit par elle-même ou par des utilisateurs malveillants, à mesure que les capacités s’étendent », a déclaré Bengio lors de la publication du rapport.
Le panel a mis en avant les systèmes d’IA « agentique », des modèles capables d’effectuer de manière indépendante des tâches complexes avec une supervision humaine limitée, comme une préoccupation particulière. Bien que ces technologies puissent considérablement améliorer la productivité et l’innovation, le rapport prévient qu’elles introduisent de nouveaux risques si elles sont déployées sans garanties, surveillance et responsabilité adéquates.
Les gouvernements volent à l’aveugle
Un problème structurel clé identifié par le panel est que les gouvernements manquent de données scientifiques indépendantes pour réguler efficacement l’IA. Au lieu de cela, ils s’appuient fréquemment sur les informations fournies par les entreprises développant la technologie, créant des lacunes dans la surveillance et réduisant la transparence des évaluations de sécurité.
Le rapport sera présenté aux gouvernements lors du dialogue mondial sur la gouvernance de l’IA à Genève les 6 et 7 juillet 2026. Le rapport complet et final devrait être publié l’année prochaine, après d’autres consultations d’experts.
La dimension des inégalités
Au-delà des préoccupations de sécurité, le rapport soulève des questions plus larges d’inégalité mondiale. L’accès à une infrastructure d’IA avancée, à la puissance de calcul et à des données de haute qualité reste concentré dans un petit nombre de pays et d’entreprises technologiques. Sans une plus grande coopération internationale, ce déséquilibre pourrait creuser les disparités économiques et laisser de nombreuses nations en développement dépendantes de technologies d’IA étrangères avec une influence limitée sur leur conception ou leur gouvernance.
Le mandat de trois ans du panel prévoit une indépendance totale vis-à-vis de tout gouvernement, institution ou entreprise, une conception délibérée visant à produire des évaluations scientifiques qui ne peuvent être écartées comme étant motivées politiquement.
Sources : UN report sees enormous potential benefits, big risks from AI (Reuters, 1er juillet 2026) ; UN panel warns of AI risks (Mezha/Reuters, 1er juillet 2026) ; Global Dialogue on AI Governance (ONU, 2026)
Traduit par Lydie