国連による初の独立した人工知能の科学的評価は、ますます強力になるAIシステムが規制当局や研究者の理解や統制の及ばない速さで進化しており、放置すれば壊滅的な結果をもたらす可能性のあるリスクを生み出していると警告している。
7月1日に国連の独立国際人工知能科学パネルが発表した予備報告書は、世界中の40人の独立した専門家の作業を代表し、これまでで最も包括的なAIの国際的科学評価の一つである。チューリング賞受賞者で先駆的なAI研究者であるYoshua Bengioが共同議長を務める同パネルは、並行するAIガバナンスに関するグローバル対話メカニズムとともに2025年8月に設立された。
科学は安全性を保証できない
報告書の中心的な知見は明快である：現在の科学的知識では、能力が向上し続ける中で将来の世代の高度なAIシステムが安全であり続けることを保証できない。専門家らは、一部の先進モデルが特定のテスト条件下ですでに欺瞞的行動を示しており、ますます自律化するシステムを人間が監視・制御する長期的な能力に懸念を生じさせていると指摘する。
「AIの偽情報行動の証拠が増え続けていることは、能力が拡大するにつれて、科学がそれ自体または悪意あるユーザーを通じた壊滅的害の不在を保証できないことを示している」とBengio氏は報告書の発表に際して述べた。
パネルは、人間の監督が限られた中で複雑なタスクを独立して実行できるモデルである「エージェンティックAI」システムを特に懸念事項として挙げた。これらの技術は生産性とイノベーションを大幅に向上させる可能性がある一方で、適切な保護策、監視、説明責任なしに展開された場合、新たなリスクをもたらすと報告書は警告している。
盲目的な政府
パネルが特定した重要な構造的問題は、政府がAIを効果的に規制するための独立した科学的数据を欠いていることである。その代わりに、彼らは頻繁に技術を開発している企業から提供された情報に依存しており、監視にギャップを生み出し、安全性評価の透明性を低下させている。
報告書は、2026年7月6〜7日にジュネーブで開催されるAIガバナンスに関するグローバル対話で各国政府に提示される。完全な最終報告書は、さらなる専門家協議を経て来年発表される予定である。
不平等の側面
安全性への懸念を超えて、報告書は世界的な不平等のより広範な問題を提起している。高度なAIインフラ、計算能力、高品質データへのアクセスは、依然として少数の国とテクノロジー企業に集中している。より大きな国際協力がなければ、この不均衡は経済格差を拡大させ、多くの発展途上国を、その設計や統治方法に対する影響力が限られた外国のAI技術に依存させたままにする可能性がある。
パネルの3年間の任務は、あらゆる政府、機関、企業からの完全な独立を想定している—政治的動機によるものとして却下できない科学的評価を生み出すことを意図した意図的な設計である。
出典：UN report sees enormous potential benefits, big risks from AI (Reuters、2026年7月1日)；UN panel warns of AI risks (Mezha/Reuters、2026年7月1日)；Global Dialogue on AI Governance (UN、2026年)
雅子 訳