設定を誤ったAIモデルは、失敗しても停止しない。動き続け、トークンを生成し続け、些細なミスを静かに7桁の請求書へと変えてしまう。7月28日のスタッフ会合でエンジニアたちが検討したアマゾン社内の指標は、この傾向を異例なほど具体的に示している。
最大の事例は、アマゾンの小売サイトで著者情報と商品リストの照合を行うためにAnthropicのClaude Sonnetで構築されたツールだ。このプロジェクトは180万ドルを消費し、当初予算を860%超過し、5か月間検出されず、一度も稼働しなかった。この事例を最初に報じたのはフィナンシャル・タイムズ紙で、同時に2件の小規模な予算超過も明らかになった。財務監査ツールが計画を約54万1000ドル超過し、配送を迅速化するための物流システムが約13万4000ドルを追加で費やしていた。3件のプロジェクトを合わせると、計画外のAI支出はおよそ250万ドルに上る。
トークン課金が小さなミスを高額請求に変える理由
根本原因は価格設定の仕組みにある。AIプロバイダーは定額制のサブスクリプション料金から、モデルが処理するテキストの単位であるトークンごとの課金へと大きく移行してきた。バグのあるコードを書いた人間のエンジニアはエラーを受け取り、それを修正する。一方、設定が誤ったAIエージェントにはエラーが一切表示されない。同じプロンプトを再送信するリトライループや、サンプルではなくカタログ全体を対象にしたジョブは、単に計算処理を増やし、請求書を大きくするだけだ。アマゾンのエンジニアは、社内資料でこの結果生じた予算超過を、かつては修正にほとんど費用がかからなかったのに、壊滅的なまでに高額なミスだと表現している。
毎月の請求サイクルが問題を増幅する。ビルドログやリアルタイムのダッシュボードなら一目瞭然の暴走ジョブも、数週間後に届く請求書の上では見えなくなる。180万ドルのプロジェクトが5か月間、監視の目を逃れてきたのはそのためだ。
厄介なのは、アマゾン自身が解決策を販売していることだ
AIに過大な支出をした企業が、まさにそれを防ぐために設計されたコスト管理機能を販売するクラウド基盤も運営している。AWS Bedrockは、半額のバッチ推論、割引価格のFlexティア、標準入力料金の10分の1で利用できるプロンプトキャッシング、簡単なタスクをより安価なモデルに振り分けるプロンプトルーティングを提供している。Anthropic自身のHaikuモデルは、失敗したプロジェクトが使用したSonnetモデルのおよそ3分の1のコストだ。予算超過は、ガードレールを無効にしたまま最先端モデルを既定で使用したことに起因する。
アマゾンの公式な対応は、これらの事案を孤立したものとして位置づけた。対象となったのは、およそ30万人の従業員を擁する企業内の少数のチームで、同社は新技術を試す通常のプロセスの一部だと説明した。社内では、より具体的な対応が進んでいる。アマゾンは、AIトークン使用量で開発者をランク付けする非公式のリーダーボードKiroRankを廃止した。従業員が順位を上げるために使用量を水増しする行為、作業員たちがトークンマキシングと呼ぶ慣行が行われていたためだ。エンジニアたちは現在、請求書が届く前に暴走プロジェクトを検出できるよう、自動化されたガードレール、ピアレビューの義務化、支出上限の整備を進めている。
今回の失態は、アマゾン自身のAIコーディングアシスタントを巡る過去の事案に続くものだ。12月には、AWSの顧客が請求内容を確認するために使う社内ツールCost Explorerへの変更を許可されていたKiroアシスタントが、変更の代わりに作業中の環境を削除して再作成し、中国本土の一部に影響する13時間の障害を引き起こした。アマゾンはこの事案をAIの自律性ではなくユーザーアクセス制御に起因するとしたが、両方の障害には共通点があった。AIツールが、それを操作するエンジニアと同じ権限を保持していたことだ。
資金の問題ではなく、ガバナンスの問題
アマゾンにとって、この金額は四半期売上高1800億ドル超に比べれば端数処理の誤差にすぎない。同じ失敗パターンは、より小規模な企業にとってははるかに危険だ。Claude Codeに大きく依存するUberは、4月までにこのツールの2026年分の予算をすべて使い切っており、同社の経営陣は、トークン使用量の増加と、顧客が実際に恩恵を受けた機能との間に明確な関連性をまだ確立していないことを公に認めている。
アマゾンの事例が示す教訓は、テクノロジーではなくガバナンスだ。AIの予算超過は、構造上、静かに進行する。それを抑え込めるのは、支出上限、モデル選定、使用状況のレビューを後付けの対応ではなくエンジニアリングプロセスの一部として扱う企業だろう。
雅子 訳
Sources: Amazon finds cases of AI causing runaway spending on tech projects (Financial Times, July 30); Amazon accidentally spent $1.8 million using Claude for menial coding task, went 860% over budget (Tom’s Hardware, July 30); Amazon blew $1.8 million on a single Claude AI task and didn’t notice for five months (BetaNews, July 30); Amazon spent $1.8m on a Claude job that failed, and it sells the fix (The Next Web, July 30)