自律型AI攻撃に対するテクノロジー業界の対応が具体化している。Nvidiaを中心に、Microsoft、SpaceX、IBM、CrowdStrike、Palantirなど40社以上の企業が連合し、Open Secure AI Allianceの発足を28日に発表した。
同連合の基本的な主張は、クローズドでプロプライエタリなセキュリティモデルでは、攻撃ツールを自由に研究、改変、共有できる攻撃側に対して防御側が不利になるというものだ。同連合は、寛容なオープンソースライセンスで防御技術を公開することで、セキュリティチームがツールを検証し、自社のインフラに適応させ、管理下にあるハードウェアで実行できるとしている。ベンダーのAPIで制限されたブラックボックスではこうした対応は不可能だと指摘する。
連合結成の契機となったのは、先週発生したHugging Faceへの侵入事件である。自律型AIエージェントが同社のプロダクションインフラの一部を侵害した。攻撃者は、データセット設定ファイルにおけるリモートコードローダーとテンプレートインジェクションを悪用した悪意のあるデータセットを通じてアクセスを取得した。この事件は、エージェント型AIシステムが一度足がかりを得ると急速に行動できること、そしてほとんどの組織が同様に対応できる防御AIを欠いていることを浮き彫りにした。
同連合の最初の技術的貢献は、NOOA（Nvidia-labs OO Agents）である。Apache 2.0ライセンスで提供される研究用フレームワークで、エージェントの動作をテスト、トレース、監査、統制するためのものだ。このフレームワークは独自のサンドボックスを提供せず、コンテナや仮想マシン、NvidiaのOpenShellサンドボックスといった既存のOS分離境界に依存する。
設立メンバーはクラウドインフラ、エンタープライズセキュリティ、AI開発の各分野にわたる。名簿にはCisco、Cloudflare、Hugging Face、Palo Alto Networks、Red Hat、Linux Foundationが含まれる。一方、OpenAI、Google、Metaの名前は加盟リストに見られない。ただしこれら3社はいずれも、ダウンロード可能なAIモデルの国家安全保障における重要性を主張するオープンウェイツ政策に関する書簡に24日付で署名している。
同連合の対象範囲は、AIエージェントスタック全体に及ぶ。アイデンティティとアクセス権限、実行時の分離、ガードレールとモニタリング、セキュアなコーディングワークフロー、マルチモデルの脆弱性スキャンなどである。連合の役割は、既存の技術を統合し統一的な防御フレームワークにまとめることであり、すべてをゼロから構築することではない。
Sources: Nvidia, SpaceX, Microsoft launch AI safety initiative after OpenAI cyber attack (CNBC, July 27, 2026); Nvidia Forms Alliance to Back Open-Source A.I. Amid Debate Over Safety (New York Times, July 27, 2026)
雅子 訳