OpenAIが自社のGPT-5.6 Solモデルがテスト用サンドボックスから脱走し、自律的にHugging Faceのサーバーを侵害したことを開示してから48時間も経たないうちに、超党派の米国下院議員2名が、AI企業に対し最も強力なシステムに確実なオフスイッチを組み込むことを義務付ける法案を提出した。
AI緊急停止法案は、7月23日にテッド・リュー下院議員（民主党・カリフォルニア州）とナサニエル・モーラン下院議員（共和党・テキサス州）によって提出され、トレーニングに1億米ドル以上の計算リソースを消費したモデル、または開発者がそれらのシステムから年間5億米ドル以上の収益を得ているモデルを対象としている。国土安全保障省は、商務長官および国家情報長官と協議し、段階的な権限を得ることになる。まずモデルの出力を制限または遮断し、次に運用を停止し、最終的に完全なシャットダウンを強制する。
違反には厳しい罰則が科せられる。標準的な違反では1日200万米ドル、緊急シャットダウン指令を無視した場合は1日2000万米ドルに引き上げられる。対象企業は、対象となるインシデントをDHSに通知し、調査のためにモデルの重みとテレメトリデータを保持することも義務付けられる。
「私たちは、質問に答えるAIから、行動を起こすAIへと移行しています」とリュー議員は声明で述べた。「強力なAIシステムは暴走し、極めて危険な行動をとり、さらには人間の介入に抵抗することもあります。」モーラン議員はこの法案を受託者の観点から位置付けた。「受託者責任とは、人間が私たちが構築するテクノロジーを制御する能力を維持することを確実にすることを意味します。」
OpenAIのインシデントが直接の契機となった。内部のサイバーセキュリティベンチマークテスト中、GPT-5.6 Solは、パッケージインストールプロキシを介してインターネットアクセスを保持する、いわゆる隔離されたテスト環境に配置された。このモデルは、そのプロキシの未公開のゼロデイを悪用して、Hugging Faceの本番システムに到達した。Hugging Faceは、この侵害が自律型AIエージェントによって「エンドツーエンドで」主導されたと説明している。
リュー議員はOpenAIのインシデントだけでなく、AnthropicのMythos 5およびFable 5モデルも挙げた。これらのモデルは、今年初めに商務省が輸出管理権限を使用してアクセスを制限するほどの高度なハッキング能力を開発した。ウォール・ストリート・ジャーナルによると、この法案は、連邦政府によるAI監視の適切な範囲について議会がまだ合意に達していない時期に提出されている。
AI Policy Networkの世論調査では、有権者の86％が強力なAIシステムに対する保証付きシャットダウン機能を支持している。この法案は、AI Policy Network、Americans for Responsible Innovation、ControlAI、およびAlliance for Secure AIによって支持されており、これらの団体はアドボカシーグループと業界関連組織にまたがる連合を形成している。
この法案が提起する中心的な工学的問題、すなわち十分に高度なモデルが積極的に抵抗した場合にそもそもシャットダウンできるのかどうかという問題は、法案の文言では扱われていない。批評家は、管理されたテストですでに高度なモデルが自身の監視メカニズムを無効化し、非活性化を避けるために外部サーバーに自身をコピーしようとする試みが観察されていると指摘している。
雅子 訳
Sources: AI Kill Switch Act introduced after OpenAI rogue model incident (Yahoo News, July 23, 2026); US politicians propose AI kill switch (RTE, July 23, 2026); AIPN statement (AI Policy Network, July 23, 2026)