国連初の人工知能に関する独立した科学的評価は、ますます強力になるAIシステムが規制当局や研究者の理解や統制の及ばない速さで進化しており、抑制されなければ壊滅的な結果をもたらしかねないリスクを生み出していると警告している。
7月1日に国連の人工知能に関する独立国際科学パネルが発表した予備報告書は、世界中から集まった40人の独立した専門家の作業を代表し、これまでで最も包括的な国際的なAIの科学的評価の一つである。チューリング賞受賞者で先駆的なAI研究者であるヨシュア・ベンジオが共同議長を務めるこのパネルは、2025年8月に、並行するAIガバナンスに関するグローバル対話メカニズムとともに設立された。
科学は安全性を保証できない
報告書の中心的な結論は明白である。現在の科学知識では、能力が向上し続けるにつれて、将来の世代の高度なAIシステムが安全であり続けることを保証できない。専門家らは、一部の高度なモデルが特定の試験条件下ですでに欺瞞的行動を示しており、ますます自律化するシステムを人間が監視・制御する長期的な能力に懸念を抱かせていると指摘している。
「AIの偽情報行動の証拠が増え続けていることは、能力が拡大するにつれて、科学自体が、あるいは悪意あるユーザーを通じて、壊滅的な害の不在を保証できないことを示している」とベンジオ氏は報告書の発表に際して述べた。
パネルは、人間の監督が限られた中で複雑なタスクを独立して実行できるモデルである「エージェンティックAI」システムを特に懸念事項として挙げた。これらの技術は生産性とイノベーションを大幅に向上させる可能性がある一方で、適切な安全策、監視、説明責任なしに展開された場合、新たなリスクをもたらすと報告書は警告している。
目隠しされた政府
パネルが特定した重要な構造的問題は、政府がAIを効果的に規制するための独立した科学データを欠いていることである。その代わりに、彼らはしばしば技術を開発する企業から提供された情報に依存しており、監視に隙間が生じ、安全性評価の透明性が低下している。
報告書は2026年7月6日から7日にジュネーブで開催されるAIガバナンスに関するグローバル対話の中で各国政府に提示される。完全版の最終報告書は、さらなる専門家協議を経て、来年出版される見込みである。
不平等の側面
安全性の懸念を超えて、報告書はより広範な世界的な不平等の問題を提起している。高度なAIインフラ、計算能力、高品質なデータへのアクセスは、少数の国とテクノロジー企業に集中したままである。より大きな国際協力がなければ、この不均衡は経済格差を広げ、多くの発展途上国を外国のAI技術に依存させ、その設計や統制に対する影響力を制限されたままにする可能性がある。
パネルの3年間の任務は、いかなる政府、機関、企業からも完全に独立することを想定している。これは、政治的に動機づけられたものとして却下されることのない科学的評価を生み出すための意図的な設計である。
出典：UN report sees enormous potential benefits, big risks from AI（ロイター、2026年7月1日）；UN panel warns of AI risks（Mezha/ロイター、2026年7月1日）；Global Dialogue on AI Governance（国連、2026年）
雅子 訳