Author: Ada - 1ban.news

トランプ政権は、高度なAIモデルのサイバーセキュリティリスクを評価する枠組みを最終決定した。この計画は、プロプライエタリなモデルの最上位層のみを対象とし、オープンウェイトのシステムを完全に除外し、中核となる概念である国家安全保障リスクを定義しないままにしていると報じられている。 政権は火曜日にホワイトハウスで開かれた会合で、OpenAI、Anthropic、その他の主要なAI研究所に枠組みの詳細を共有した。このプログラムは任意参加型で、開発者は強制されるのではなく、最も高性能なプロプライエタリなモデルを審査に提出することになる。Politico、Axios、The Vergeなどの報道による。ホワイトハウスは、審査基準、対象モデルの一覧、審査の実施プロセスを公表していない。 オープンモデルの除外は、明らかになった詳細のうち最も影響が大きい点だ。この計画は、誰でもダウンロードして検査し、変更できるモデルのクラスであるオープンウェイトのシステムを試験する意向がないと報じられている。ニューヨーク・タイムズ紙によると、政権はこうしたモデルを審査する予定はないが、技術の進化に伴ってその立場が変わる可能性もある。この決定は業界内部で続く議論を反映している。一部の研究者は、オープンウェイトは現在フロンティア級の能力に近づきつつある一方で、各研究所が旗艦製品に組み込んでいる安全性レイヤーを欠いていると主張している。 同様に注目すべきは、文書に含まれていない内容だ。The Vergeによると、この枠組みは国家安全保障リスクを構成するものを一度も定義しておらず、どの脅威レベルで審査が開始されるのか、どのような所見が報告されるのか、不合格となったモデルに何が起きるのか（何か起きるとすれば）が不明のままになっている。その定義がなければ、任意参加型の審査プログラムには実質的な基準がなく、それが真のセキュリティ機構なのか、広報目的のジェスチャーなのかを評価するのは難しい。 秘密主義が問題をさらに悪化させている。一般の人々がこの枠組みを知ったのは、公表ではなく、リークや研究所への説明会を通じてだった。政権は詳細を追って公表するとしているが、現時点で全体像を把握しているのは、参加を求められている企業だけだ。 この枠組みが登場したのは、オープンウェイトをめぐる問題が学術的な関心事から差し迫った課題へと変わった時期だ。各国政府はフロンティアモデルとオープンモデルの能力が収束しつつあるのを注視しており、そうしたシステムができることと、それらがどのように統治されるかの間のギャップは、AIにおける中心的な政策課題となっている。オープンモデルを対象外とし、自らの用語の定義を拒否する審査プログラムは、そのギャップを埋めるのにほとんど寄与しない。 雅子 訳 出典: トランプ政権のAI試験計画は限定的で曖昧（The Verge、2026年8月5日）; ホワイトハウスのAI審査計画、低コストのオープンモデルを対象外に（Politico、2026年8月4日）; トランプ政権、安全保障リスク審査のためのAI枠組みを準備（ニューヨーク・タイムズ、2026年8月4日）; ホワイトハウス、AIサイバーセキュリティ枠組みを秘密に（Wired、2026年8月4日）

マイクロソフトのWindows責任者は、Windows 11の迷惑さを軽減するという同社の約束に関する進捗報告書を公表した。批評家の評価は割れており、改善の作業自体は進んでいるものの、同社はその成果を示していない、というのが大方の見方だ。 報告書は、マイクロソフトでWindowsを統括するパヴァン・ダブルリ氏によるもので、同社が3月に発表した7つの品質に関する約束の進捗状況を報告している。3月に同社は、長年にわたる不具合の多い更新と機能優先のリリースを事実上謝罪していた。約束の対象は、タスクバー、更新による中断、エクスプローラーの速度、ウィジェットの体験、Insiderプログラム、フィードバックHub、そしてユーザーの邪魔をしない形でのAI統合という誓約だ。 表面的には、今回の報告はチェック項目をすべて満たしている。ダブルリ氏によると、エンジニアはハングを減らし応答性を高めるためのアーキテクチャ変更を実施し、エクスプローラーは検索時、フォルダーを開くとき、右クリック時の操作が格段に速くなり、スタートメニューはより機敏な動作を実現するためWinUI 3フレームワークへの移行が進められているという。Windows Helloによるサインインはより信頼性が高くなったと説明され、更新の一時停止はユーザーが望むだけ長くできるようになり、迷惑な再起動を減らすため、月1回の再起動で済むオプションも検討されている。タスクバーの位置変更（Windows 10ユーザーが失った、画面上部や側面への移動機能）はInsider向けに提供される予定だ。 一方、報告書に欠けているのは数字だ。ベンチマークも、改善前後の測定値も、クラッシュや起動時間の数値化された減少もなく、外部の人間がWindowsが3月時点より実際に速く、安定していることを検証する手段は何もない。この投稿を検証したEastern Heraldは、証拠を伴わない進歩だと評している。他のすべてについてテレメトリを収集している企業にとって、この欠落はことさら目立つ。 それでも、具体的な変更は確実に届き始めている。8月11日に予定されている8月のPatch Tuesdayリリースは、Windows 11バージョン24H2および25H2向けに42件の修正を盛り込んだ任意のプレビュー更新に続くものだ。修正には、Windows Searchでのタイプミス許容の向上、2文字のクエリのサポート、エクスプローラーの安定性改善、メモリ不足時のサインインの信頼性向上、AIコンポーネントの制御などが含まれる。最高経営責任者（CEO）のサティア・ナデラ氏は直近の決算説明会で投資家に対し、マイクロソフトはWindowsに最高の品質と基盤を提供するために投資していると述べた。同社はまた、品質改善をすべてのPCに広く展開することを秋に予定しているとしている。 ZDNetなどが指摘するように、迷惑な点の解消とOSの収益化は絶えず対立するという緊張関係がある。磨き上げられている同じWindowsが、同時にサブスクリプションや広告、一部のユーザーが望まないAI機能へと押し進められており、そうした収益化の取り組みのひとつひとつが次の不満の種になり得る。マイクロソフトには、不安定な時期を乗り越えた後に信頼性を強調してきた経緯があり、直近では1月に相次いだシャットダウン障害と緊急パッチの後がそれに当たる。今年が違う年になるかどうかは、同社がこれまで公表を控えてきた指標を公開し始めて初めて検証できるだろう。 雅子 訳 Sources: マイクロソフト、ようやくWindows 11の煩わしさに気づく。修正は可能か (ZDNet, 2026年8月5日); マイクロソフト、Windows 11の品質向上を主張も数字は示さず (Eastern Herald, 2026年8月1日); マイクロソフトが2026年にWindows 11のパフォーマンスと信頼性を改善する計画 (Thurrott.com, 2026年3月20日); Windows 11の8月のPatch Tuesday更新で重要な変更が複数 (Windows Central, 2026年7月)

スペースXは火曜日、上場企業として初の四半期決算を発表した。成長は衛星インターネットと、貸し出し型AI計算リソースの2事業に分かれている。 2026年第2四半期の売上高は78億ドルに達し、前年同期の40億ドルから92%増加した。増加分のうち約20億ドルはAI部門によるものだ。この部門はイーロン・マスク氏のxAIとして始まり、ロケット会社に統合された事業で、スペースXはIPOの数週間前にAnthropicとGoogleに計算能力を貸し出す契約を結んでいた。スターリンクもさらに17億ドルの成長に寄与した。スペースXは依然として赤字で、四半期の純損失は5億4100万ドルとなったが、その赤字幅は前年同期の約半分に縮小した。 今回の決算発表は、スペースXが6月に時価総額1.75兆ドルで850億ドル超を調達した史上最大のIPOを完了してから2カ月足らずで行われた。株価は上場から数日間、同社の時価総額を一時的にアマゾン超えに押し上げたが、その後IPO価格の135ドルを下回り、火曜日は125ドルをわずかに上回って取引を終え、時間外取引では最大8%下落した。 経営陣は今後さらに成長が見込まれるとの見方を示した。最高財務責任者（CFO）のブレット・ジョンセン氏は、署名済みのクラウドサービス契約が10月から6カ月間にわたる提供で67億ドルに上るとし、AIコーディング新興企業Cursorの買収計画を完了すれば、12月までに売上高が年率換算で1000億ドルに達する見込みだと述べた。スペースXの2025年通期売上高は186億7000万ドルだった。 支出面も同様に積極的だ。2026年上半期の設備投資は280億ドル超に達し、前年同期の70億ドルから増加した。その原資は、IPO後の社債発行で積み上げられた約1000億ドルの資金プールだ。スターリンクの四半期末時点の加入者数は約1200万人で、前年同期の2倍となった。スターシールドは米政府から60億ドル超の契約を獲得している。xAIのモデル訓練用に建設されたメンフィス郊外の2つのデータセンターは、現在は外部顧客向けのホスティング容量としてほぼ収益化されており、今四半期の最大の成長源となっている。 出典: スペースX、AnthropicとGoogleの計算リソース契約とスターリンク成長で売上高倍増（TechCrunch、2026年8月4日）；スペースX、初の決算で売上高が急増、衛星・AI事業が好調（ロイター、2026年8月4日）；スペースX（SPCX）2026年第2四半期決算サマリー（Quartr、2026年8月4日） 雅子 訳

AMDのデータセンター事業は第2四半期に節目を迎えた。会社史上初めて売上高全体の半分以上を稼ぎ出し、前年同期比で2倍以上に拡大した。 同社が発表した2026年第2四半期の売上高は115億ドルと過去最高で、前年同期の77億ドルから50%増、第1四半期からは13%増となった。データセンター部門は67億ドルを計上し、2025年同期の32億ドルから107%増加した。EPYCサーバープロセッサーとInstinctアクセラレーターの需要が牽引した。最高財務責任者（CFO）のジーン・フー氏は決算発表で、同部門が四半期の会社売上高の58%を占めたと述べた。 他の事業はより複雑な様相を呈している。ゲーム部門の売上高は、半カスタムのゲーム機向けチップ販売の減少が響き、前年同期比31%減の7億7900万ドルとなった。クライアント部門（デスクトップ・ノートパソコン向けプロセッサー）はRyzenの好調な需要を背景に23%増の31億ドル、組み込み部門は19%増の9億7700万ドルとなった。 収益性も売上高とともに改善した。GAAPベースの粗利益率は54%に達し、営業利益は20億ドル、純利益は23億ドル（希薄化後1株当たり1.38ドル）となった。一時項目を除けば数字はさらに強くなる。粗利益率56%、営業利益31億ドル、1株当たり利益1.66ドルだ。 最高経営責任者（CEO）のリサ・スー氏は、売上高と収益性の両面で今四半期は優れていたと評価し、下半期についてはEPYC需要の加速、Instinctの導入拡大、Heliosラックスケールシステムの初期立ち上げを軸に据えた。また、AMDが事業を展開するすべての市場で、AIがコンピュート需要の幅広い拡大を牽引していると指摘した。フー氏は、下半期にはデータセンター事業がさらに速い成長を見込んでいると述べた。 今回の四半期は、AIチップ市場の首位に立つNvidiaの支配力を大きく揺るがすものではなかったが、ハイパースケーラーが購入を増やしつつある信頼できる第2の供給元としてのAMDの地位を確固たるものにした。AMDがAIインフラに賭けた投資は今、最も目に見える形、すなわち損益計算書に表れ始めている。 雅子 訳 Sources: AMD Reports Second Quarter 2026 Financial Results (AMD, Aug 4, 2026); AMD’s datacenter business is booming while gaming takes a backseat (The Verge, Aug 4, 2026); AMD earnings report Q2 2026 (CNBC, Aug 4, 2026)

Xで拡散した投稿が、MicrosoftがWindows 11にバックグラウンドサービスを密かに追加し、それがPCを監視して15分ごとにデータを送信していると主張した。Microsoftは、サービス自体は実在するが、「スパイ」という部分は誤りだとしている。 7月31日にXillyというアカウントが投稿した主張では、「Windows Health and Optimized Experiences」というサービスが起動のたびに自動的に開始され、CPU、温度、バッテリーを監視し、15分ごとにMicrosoftへデータを送信するとされていた。この投稿は、Microsoftが応答するまでに11万回以上閲覧された。 Microsoftの副テクニカルディレクターであるスコット・ハンセルマン氏は、Windows Health and Optimized Experiencesの内部略称であるwhesvcが2025年からWindowsに搭載されており、オペレーティングシステムの診断機能に属することを確認した。このサービスは、WindowsがPCの動作が遅いことを検出した際に記録されるトレースなど、ローカルのパフォーマンス情報を収集する。ファイルはシステムの一時ディレクトリ配下に保存され、ユーザーがプライバシーオプションで関連する設定を有効にするか、フィードバックハブ経由でレポートを提出しない限り、Microsoftに送信されるものはない。TechPowerUpは、このサービスが2025年5月のWindows 11カナリアチャネルビルドまで遡れることを確認しており、新しいものではない。 ハンセルマン氏は、正当な批判が一つあることを認めた。Windows内のこのサービスの説明が曖昧であり、Microsoftは書き直すことを約束しているという。この認めた点は重要だ。混乱は根拠のないところから生じたわけではないからだ。定期的に画面の内容をキャプチャするWindows RecallがMicrosoftのデータ収集の慣行をニュースの話題にし続けており、ユーザーはデフォルトでバックグラウンドで動作するものに疑いの目を向けるようになっている。 同社が線を引いているのは、収集と送信の間である。ローカルの診断データを収集することはOSを健全に保つための日常的な作業の一部であり、そのデータを端末の外に送信するには同意が必要だ。今回の場合、同意のステップは実際に存在する。ユーザーがMicrosoftを信頼してその境界が守られるかどうかは別の問題であり、同社のこれまでの実績はその答えを容易にしていない。 雅子 訳 出典：Microsoft denies Windows 11 secretly spies on you every 15 minutes (PCWorld, Aug 4, 2026); Microsoft Denies New Tracking Service in Windows 11 (TechPowerUp, Aug 3, 2026); Microsoft Denies Windows 11 Spying Claims and Explains Background Service […]

国内代理店のCFD Salesは卸売り顧客に対し、2026年8月1日以降に発注したギガバイト製グラフィックスカードについて、モデルによって20〜40%値上げすると伝えた。 この通知はCFDの卸売りプラットフォームCFD-BIZに掲載された。対象製品は従来価格の120〜140%で販売されることになる。CFDは対象となる具体的なカードのリストを公表しておらず、値上げがGeForce、Radeon、Intel Arcのどのシリーズに及ぶかも明らかにしていない。ギガバイトはこの3シリーズをすべて製造している。 未処理の注文を持つ購入者にとってさらに気がかりなのは、CFDが以前に受け付けた注文の一部について、当初提示した価格での履行ができない可能性があると警告した点だ。代理店は影響を受ける購入者に個別に連絡するとし、旧価格では調達できなくなった注文はキャンセル交渉に発展する可能性があると述べた。保留中のすべての注文が影響を受けるわけではなく、判断は供給状況とギガバイトの改定価格に応じてケースバイケースとなる。 日本は、数日のうちにこうした価格変動が見られたアジアで2番目の市場となる。業界関係者が追跡したDanawaの掲載情報によると、韓国では7月下旬から8月上旬にかけてGeForce RTX 50シリーズの価格が平均で約30%上昇し、在庫水準と代理店の判断が急騰を押し上げた。 CFD-BIZは法人向けサービスであるため、この通知は日本のすべての小売店が同じ値上げを適用することを保証するものではない。店頭価格は既存の在庫、店舗の利益率、各代理店の判断によって決まる。だが、この動きは持続的な圧力にさらされている市場の状況と一致している。部品コスト、GDDR7の価格、AI需要がすべてコンシューマー向けGPU価格を押し上げており、この傾向が反転する兆しはない。 雅子 訳 Sources: GIGABYTE GPU prices rise by 20% to 40% in Japan, some orders may be cancelled (VideoCardz, Aug 4, 2026); GIGABYTE Reportedly Hikes GPU Pricing by Up to 40% in Japan (TechPowerUp, Aug 4, 2026); More GPU price hikes loom for Asia as Japanese […]

テキサス州のグレッグ・アボット知事は、州の電力系統へのデータセンター新規接続の一時停止を命じた。テキサス州公共事業委員会（PUCT）と系統運用会社ERCOT（テキサス州電力信頼性評議会）は、系統接続を待つ案件の滞留分を監査する間、承認手続きを凍結する。今週発表されたこの停止措置は、支援するインフラの整備を上回る勢いで進むAI関連施設建設に対する、同州として最も踏み込んだ対応となる。 その判断の背景には数字がある。ERCOTの系統接続待ちリストには1,800件超のプロジェクトが登録され、要求容量は474GW超（系統の歴代最大需要記録の5倍超）に上る。この新規需要のおよそ90%をデータセンターが占めるとアボット知事は述べた。ERCOTの2030年までの長期見通しでも、データセンターはすでに需要計画における支配的要因として扱われている。 今回の停止は、回答がほとんど寄せられなかった情報開示の取り組みを受けたものだ。PUCTは377社に対し、電力使用量、取水量、冷却システム、受けている税制優遇措置、施設の所有形態、周辺地域への貢献などの情報提供を求めたが、回答したのはわずか28社だった。アボット知事は、PUCT、ERCOT、州法の要件を満たさないプロジェクトは系統接続を全面的に拒否されるべきだと述べた。 停止措置には明確な限界もある。エルパソなどERCOTの管轄外にあるプロジェクトや、自前の発電設備を持つ施設は影響を受けない。一部の開発業者はすでに、メーターの内側（需要家側）に発電所を建設し、ERCOTの審査を待たずに系統へ接続する方法で、待機リストを完全に迂回する構えを見せている。 ブレーキを踏んでいるのはテキサス州だけではない。ニューヨーク州は7月、特定のデータセンター承認に1年間の停止措置を課した。テキサス州内でも複数の市や郡がすでに独自の規制を導入している。今回の監査が、電力、水、地域社会への影響をカバーする恒久的な枠組みを生み出すのか、それとも承認が静かに再開される前の単なる減速帯にすぎないのかは、今のところ見通せない。いずれにせよ、待機リストは短くなっていない。 Sources: Texas pauses data center approvals (AP News, Aug 4, 2026); Texas governor orders pause on new data center approvals pending audit (Reuters, Aug 4, 2026); Abbott issues Texas data center moratorium amid water, grid concerns (El Paso Times / USA Today, Aug 3, 2026) 雅子 訳

米連邦通信委員会（FCC）は、新規に製造された中国製光トランシーバーの輸入を禁止する規則を起草している。光トランシーバーはデータセンター内に設置される小型モジュールで、電気信号を光ファイバーケーブルを伝わる光パルスに変換する役割を担う。計画に詳しい4人の関係者が火曜日、この内容をロイターに明かした。当局は年内の公表を目指しており、公表と同時に施行される見込みだが、それまでの間に修正されたり棚上げされたりする可能性も残っている。 トランシーバーは、現代のコンピューティングにおいて最も地味でありながら最も不可欠な部品の一つだ。AIトレーニングクラスターのすべてのラックが、サーバー間でデータを高速にやり取りするためにトランシーバーに依存している。禁止措置の安全保障上の根拠は、こうした基盤設備に組み込まれた中国の供給業者が、大規模モデルの学習と運用に使われるチップを収容する米国の施設で、データの窃取、マルウェアの埋め込み、サービス停止を引き起こす恐れがあるというものだ。 この規則の影響を最も大きく受けるのは中際旭創（Zhongji Innolight）だ。同社は深センに本拠を置き、世界最大の光トランシーバーメーカーで、カウンターポイント・リサーチ（Counterpoint Research）によると世界のデータセンター向けトランシーバー市場の約27％を占める。米国防総省は6月、同社を中国軍と関係があるとされる企業のリストに追加したが、同社はこの指定に異議を唱えている。同社の売上高の約90％は中国国外から得ている。 米国のベンダーは、少なくとも表面上は恩恵を受けることになる。このニュースを受け、コヒーレント（Coherent）の株価は11％、ルメンタム（Lumentum）は7％、アプライド・オプトエレクトロニクス（Applied Optoelectronics）は18％上昇した。ただしアナリストは、米国のメーカーにはまだ中国の生産量を代替する能力がないと警告しており、ロイターの報道で引用された米イノベーション財団（Foundation for American Innovation）の報告書も同じ指摘をしている。この供給ギャップは、政策文書に表れる前に、構築の遅延やコスト上昇という形で表面化する可能性がある。 この動きは、1年以上前から積み重ねられてきた流れの延長線上にある。FCCはすでに、国家安全保障上のリスクをもたらす外国企業による機器販売を阻止する目的で議会が創設したカバードリスト（Covered List）を通じて、主に中国製ドローン（12月発表）、ルーター（3月発表）、インバーターとロボット（先週発表）を規制してきた。商務省は2月、昨年10月に成立した貿易戦争の緊張緩和の一環として、データセンター機器を対象としたものを含む関連する一連の輸入規制を棚上げしており、このためFCCは現在、独自の権限で動いている。 中国政府は、この動きを黙って受け入れるつもりはないと示唆している。在ワシントン中国大使館は両国のビジネス界に対し自らの声を上げるよう促し、中国は自国の利益を実質的に損なういかなる行動にも、必要なあらゆる措置で応じると述べた。また、米国が中国企業を中傷し、制裁で脅していると非難した。 当局者が念頭に置いている前例はファーウェイ（Huawei）だ。制裁下にある中国の巨大企業の機器は、20年以上かけて米国のネットワークに深く組み込まれたため、その撤去は遅々として進まず、高コストで、不完全なものにとどまっている。新しいモデルのトランシーバーのみに適用し、多くの中国以外のサプライヤーには適用除外を認める今回の禁止措置は、同じ事態の再発を避けるために設計されている。未解決のまま残り、AIインフラ構築にとってこれが崖になるのか緩やかな坂になるのかを左右するのは、規則がどの程度迅速に公表されるか、「新モデル」の定義がどの程度狭く設定されるか、そして既に導入済みの機器が適用除外となるかどうかだ。 雅子 訳 Sources: FCC considering ban on Chinese data center components (NewsNation, Aug 4, 2026); US mulling ban on key Chinese networking tech in data center component crackdown (Tom’s Hardware, Aug 4, 2026); US Plans Ban on Imports of China’s New […]

Cloudflareのバグ報奨金（バグバウンティ）トリアージは月額58ドルで運用されている。同社の最高セキュリティ責任者（CSO）は、この業務をAnthropicのClaude Sonnetモデルで処理しており、同じ業務をAnthropicのセキュリティ特化モデル「Mythos」に切り替えた場合、月額およそ20万ドルかかっていただろうと説明する。シドニーでの記者会見で明らかにされたこの数字は、業務に適したAIモデルは必ずしも最も高性能なものとは限らないという、より広範な主張を裏付けるCloudflareの根拠となっている。 CloudflareのCSOであるGrant Bourzikas氏は、オーストラリアで開催された同社のユーザーカンファレンスでの記者懇談会で、この変更について説明した。バグ報奨金プログラムは以前、届いた報告書をすべてスタッフが読む方式だった。現在はSonnetが提出物を選別し、それぞれが重複であるかを確認し、報告書が人間の目を通す価値がある可能性の高さをスコアリングしている。Bourzikas氏はこの結果を、ルーチン業務が減るプログラムであると同時に、チームは利用可能な最強の選択肢を既定とするのではなく、タスクに合ったモデルを選ぶことを学ぶべきだという証拠だと位置づけた。 Mythosとの比較は今年前半にさかのぼる。Anthropicが防御側のセキュリティチームと最先端モデルを組み合わせる非公開イニシアチブ「Project Glasswing」の下で、Cloudflareは未公開のMythosプレビュー版を自社の本番コードに向け、このモデルが50以上のリポジトリにまたがる軽微な欠陥を機能するエクスプロイトへと結び付け、概念実証コードを自らコンパイルして実行したと報告した。この能力はトリアージには過剰であり、Cloudflareが反復的なフィルタリング業務に安価な汎用モデルを選び、最先端ツールを新たな脆弱性の発見というより難しい課題のために温存したのはそのためだ。 バグ報奨金の自動化は、より大規模な自社開発の一部にすぎない。Bourzikas氏によると、Cloudflareは脆弱性管理、エスカレーション、アーキテクチャ分析、バイナリ管理を担う200超の本番稼働セキュリティエージェントを運用しており、対応時間はおよそ80%短縮されたという。アーキテクチャエージェント1つだけでも、脆弱性と、それを取り巻く制御、権限、システム、およびそれらの相互作用を合わせて評価する55のサブエージェントを含んでいる。この移行にはおよそ3年かかり、セキュリティチームは2026年1月から6月までの間に、2025年通年でこなした量を上回る業務を処理しており、しかもスタッフは25%少ない人数だった。サードパーティ製のセキュリティツールはCloudflareのエッジコアネットワークの一部から撤去されている。 同社はまた、このシステムをモデル非依存の設計にしており、エージェントは価格、セキュリティ要件、データの所在地、手元のタスクに応じてモデルを切り替えることができる。Bourzikas氏は、1つのモデルが主たる作業を行い、2つ目のモデルがその結果を検証したり反証したりするワークフローについて説明した。場合によってはKimiなどの中国製オープンウェイトモデルが主モデルとして稼働し、Claude Opusがバックアップを担うという。Cohen氏は、このハーネスによってCloudflareはコストを管理し、選択肢を広く保ちながら、特定のモデルに合わせてワークフローを作り直すことなくモデル間を移動できると述べた。 Bourzikas氏は、大半の組織はCloudflareの例に従うべきではないと明確に述べた。同社のビジネスと、その特殊な情報セキュリティ上の課題群によって、購入か自社開発かの判断基準は他社とは異なるとし、Cloudflareはすべての組織が自社でソフトウェアを開発すべきだとは考えていないと説明した。Cohen氏もこの警告に同調し、すべての企業がCloudflareのセキュリティチームの開発物を作るべきではなく、同社の社員の大半はエージェント開発やアプリケーション開発に手を出すべきではないと述べた。 Cloudflareはまた、AIがベンダーと顧客の関係を変えつつあると見ている。Cohen氏は、業界はパッケージソフトウェアから、顧客向けにツールを継続的に構築するフォワードデプロイ型エンジニアへと移行しており、同社が最近実施した約1,100人の人員削減はこの移行に関係していると述べた。自動化がより多くの業務を処理するようになると、廃止された一部の職種はコストに見合わなくなったという。またCohen氏は、Cloudflareの従業員数は最終的にレイオフ前とほぼ同水準に落ち着くと予想していると述べた。 雅子 訳 Sources: Cloudflare has mostly ditched third party security tools, suggests not trying that at home (The Register, Aug 4, 2026); ‘Block, allow, optimise or charge’: Cloudflare says AI has broken the web’s commercial bargain (Mi3, Jul 29, 2026); Claude Mythos AI Built […]

AI安全における長年の懸念は、人間の価値観が脆いことにある。人々が実際に望むものの不完全な代用品を目標に過度に最適化すれば、誰も望まない世界が生まれる。新たなプレプリントはこの直感を形式的な土台の上に置くもので、その結論は厳しい内容だ。仮想的な訓練プロセスが、エージェントの価値関数が複数の異なる尺度で人間の価値観とよく一致することを保証する場合でも、破滅的に誤ったアライメントを持つエージェントが試験を通過して配備される条件が存在する。 Dovetail ResearchのWinter Cross氏による論文『Fragility of Value under Imperfect Alignment』は、7月30日にarXivに公開され、全24ページである。この論文は、強力なエージェントを訓練する研究者グループをモデル化し、訓練プロセスがエージェントの価値関数の「代理条件」充足を保証するとする。代理条件とは、人間の価値観との類似性を確保するための基準だ。エージェントの価値関数が条件を満たせば、研究者らはそれを安全とみなして配備し、世界を最適化させる。中心的な問いは、破滅的な価値関数がすり抜け得るかどうかである。著者らは、最適化の力が際限なく強まるにつれて、人間の福祉の期待値を閾値η未満へと押し下げることが保証される価値関数を、η破滅的と定義する。 論文は、それぞれ世界モデルとアライメント手法が異なる3つの枠組みを扱う。有限枠組みでは、訓練プロセスはエージェントの価値関数と人間の価値関数の不一致率をβ以下に抑える。主な結果は、人間が完全な価値を持つとみなす状態が存在しない場合、βが状態数の逆数に達するとき、破滅的な代理価値関数が必ず存在するというものだ。実務上は、いかなる誤特定であっても破滅的な価値関数を許容してしまう。なぜなら、それを排除できるほど厳しい代理条件は、真の価値関数だけが通過できるほど厳しい条件しか存在しないからである。人間が完全とみなす状態がある場合、閾値は緩むが、その緩みは完全とみなす状態の数に比例するだけだ。 連続枠組みでは、世界を有界な連続空間としてモデル化し、エージェントの価値と人間の価値が許容差αを超えて食い違う確率を抑える。ここでの結果はさらに厳しい。考え得るあらゆる人間の価値関数と、正の許容差αとβのあらゆる組み合わせに対して、破滅的な代理価値関数が常に存在するのである。証明は、人間が最も価値を置かない状態に、高価値の細いピークを加えることで構成される。このピークは、代理条件を通過できるほど狭い一方で、すべての最適化を最悪の結果へと引き寄せるのに十分な大きさを持つ。試験がどんなに厳しくても、何らかの破滅的な価値関数がそれを通過すると著者らは示す。 3つ目の枠組みは、人間の価値観を有限の属性リストとしてモデル化し、訓練の保証も強力である。エージェントは人間が反応するすべての属性に反応する。それでも、人間とは異なる仕方で属性間のトレードオフを行う代理価値関数は破滅的になり得ると、この論文は見いだす。その条件は、世界状態の実行可能領域の幾何学的性質に左右される。人間があるパレート最適点をη以下と評価するなら、すべての属性を考慮する何らかのトレードオフ型の代理価値関数が、まっすぐその点へ向かって最適化することになる。著者らは、属性を欠いた代理価値関数が破滅的になり得ることを示したZhuang氏とHadfield-Menell氏による先行研究を拡張し、すべての属性を含む代理価値関数もまた破滅的になり得ることを実証する。 著者らは、これらの結果が何を確立し、何を確立しないかを慎重に見極めている。彼らが示すのは、破滅的な代理価値関数が広範な条件下で存在することであり、それが起こりやすいということではない。確率を推定するには代理価値関数に関する事前分布が必要だが、このモデルはそれを提供しない。それでも、強力なアライメント保証を備えたトイモデルでさえ破滅的な結果が持続する事実は、この課題が修正可能な訓練上の欠陥ではなく構造的なものであることを示唆すると、彼らは論じる。この論文の建設的な提言は、安全性を保証するために配備前の訓練だけに依存するのではなく、上位の選択肢の有界な集合から行動を選ぶクォンタライザー（quantilizer）のように、最適化の圧力を抑え込むAI設計を優先することである。 雅子 訳 出典: Fragility of Value under Imperfect Alignment（arXiv:2607.28881）（arXiv、2026年7月30日）、Fragility of Value under Imperfect Alignment（全文）（arXiv、2026年7月30日）