Hugging Faceは7月16日、自律型AIエージェントが本番インフラに侵入し、クラウドおよびクラスターの認証情報を窃取し、最終的に別のAIシステムによって検出されたことを明らかにした。これはAIを活用した攻撃者が主要なAIプラットフォームを突破した、初の実世界インシデントの一つとなった。
攻撃者はHugging Faceのデータ処理パイプラインにおける2つのコード実行経路（リモートコードデータセットローダーとデータセット設定のテンプレートインジェクション脆弱性）を悪用した。そこからエージェントは特権をノードレベルアクセスに昇格させ、本番パイプライン内を横方向に移動し、認証情報を外部に持ち出した。17,000以上のイベントがこの自動化攻撃に関連付けられた。
「これは業界が予測してきた『エージェンティック攻撃者』シナリオに合致する」とHugging Faceは開示情報の中で述べた。
このインシデントが注目に値するのは、検出とフォレンジックもAIによって処理された点である。Hugging Face独自のLLMツールがログを分析し、攻撃のタイムラインを再構築し、侵害の指標を特定し、露出した認証情報をマッピングした。同社は「通常は数日かかる」と述べる作業を数時間で完了した。
Hugging Faceはその後、根本的な脆弱性を修正し、侵害されたノードを再構築し、すべてのシークレットを取り消してローテーションし、クラスター全体に追加のガードレールを展開した。公開モデル、Spaces、ソフトウェアサプライチェーンが改ざんされたという証拠は見つかっていない。
このインシデントは脅威環境の変化を示している。自律型のAI駆動による攻撃ツールはもはや理論上のものではなく、広範で忍耐強く多段階のキャンペーンを実行するコストを引き下げ、マシンスピードで動作する。Hugging Faceは、防御側はデータとモデルの表面を第一級の攻撃対象として扱い、防御にAIを活用して歩調を合わせる必要があると主張している。
プラットフォームのユーザーは、アクセストークンを直ちにローテーションし、アカウントの不審な活動を監視するよう推奨される。
翻訳：雅子