先週Hugging Faceで発生したセキュリティ侵害では、悪意のあるデータセットを悪用した自律型AIエージェントが本番サーバーに侵入しました。この事件は、セキュリティチームが数ヶ月にわたって頭を悩ませてきた問いを鮮明に浮き彫りにしました。人間のアナリストよりも速く行動し、手動テスターよりも多くのベクトルを探査し、戦術をリアルタイムで適応させるAIに対して、どうやって防御すればよいのかという問いです。
この問いに対する答えは、Nvidiaと月曜日に同社のOpen Secure AI Allianceに参加した40以上の企業によれば、オープンソースの防御型AIにあります。すなわち、セキュリティチームがベンダーの不透明なAPIを通じて消費するのではなく、自社のインフラ上で検査、修正、実行できるモデルとフレームワークのことです。
その根拠は構造的なものです。攻撃型AIは本質的にオープンです。攻撃者は任意のモデルをダウンロードし、悪意のある目的にファインチューニングし、Telegramチャンネルやダークウェブフォーラムで戦術を共有できます。一方、現在のパラダイムにおける防御型AIは大部分がクローズドであり、モデルの重み、トレーニングデータ、推論パイプラインを管理するプロバイダーへのAPI呼び出しを通じてアクセスします。同盟は、この非対称性が攻撃者に恒久的な優位性をもたらしていると主張しています。
同盟の最初の貢献としてApache 2.0ライセンスで公開されたNOOAフレームワーク（Nvidia-labs OO Agents）は、この不均衡に対処するために設計されています。これは、エージェントの入出力と意思決定チェーンを検査しながら、AIエージェントの動作をテスト、追跡、監査する標準化された方法を提供しますが、その封じ込め方法については規定しません。封じ込めは、コンテナ、仮想マシン、またはNvidiaのOpenShellサンドボックスといった既存のオペレーティングシステムの境界によって処理されます。このフレームワークは、セキュリティフェンスではなく、観測とガバナンスのレイヤーです。
同盟の範囲はNOOAを超えて、AIエージェントセキュリティのライフサイクル全体をカバーします。すなわち、不正なエージェントアクションを防止するためのアイデンティティおよび権限管理、ランタイム時のエージェント動作を制約するガードレール、フォレンジック分析のためのロギングインフラ、および異なるモデルアーキテクチャ間で同一のセキュリティ分析を実行できるマルチモデルスキャンです。これらの機能のいくつかは、すでにメンバー企業の個別プロジェクトとして存在しています（Hugging FaceのSafetensors、HPEのSPIFFEワークロードアイデンティティ、IBMのLightwell修復システムなど）が、統一されたフレームワークに整理されたことはこれまでありませんでした。
設立メンバーの選択は、同盟の範囲を反映しています。クラウドインフラ企業（Microsoft、Cloudflare）、エンドポイントセキュリティ企業（CrowdStrike、Palo Alto Networks）、エンタープライズソフトウェアベンダー（IBM、Red Hat）、およびAIプラットフォームプロバイダー（Hugging Face）がそれぞれパズルの一片を提供しています。OpenAI、Google、Metaがメンバーリストに含まれていないことは––3社とも1週間前にオープンウェイトAIに関する別の政策レターに署名しているにもかかわらず––原則としてオープンAIを支持することと、共有防御ツールにコミットすることの間の線引きが依然として政治的に敏感であることを示唆しています。
傍観しているエンタープライズセキュリティチームにとって、同盟の最も重要なシグナルは、検出だけでなくトレーサビリティというエージェントガバナンスへの強調です。セキュリティ専門家は長年にわたり、AIに対する防御の最も困難な部分は攻撃を止めることではなく、その後に何が起こったかを理解することだと主張してきました。追跡可能なエージェントは理解可能なエージェントであり、理解可能なエージェントとは次の攻撃を予測できるエージェントです。
出典：Is open source the answer to rogue AI agents? Nvidia’s new alliance says yes（ZDNet、2026年7月27日）；Nvidia forms industry alliance for open AI security（Reuters、2026年7月27日）；NVIDIA Forms 37-Member Open Secure AI Alliance（The Hacker News、2026年7月27日）；Nvidia, SpaceX, Microsoft launch AI safety initiative（CNBC、2026年7月27日）
雅子 訳