現在のAIシステムのほとんどは、トランジスタを毎秒何十億回もオンとオフに切り替えることで動作し、膨大なエネルギーを消費している。著名なAI研究者らが設立したスタートアップ企業は、根本的に異なるアプローチを提案している。それは、まったくスイッチングを行わず、物理的な発振器が同期パターンに落ち着くままにさせ、その結果を画像と呼ぶチップである。
Unconventional AIは、Naveen Rao氏（Databricks、Nervana Systems、Intel出身）、Michael Carbin氏（MIT）、Sara Achour氏（Stanford）、そして元GoogleエンジニアのMeeLan Lee氏によって設立され、6月に最初のモデルをリリースした。Un-0と呼ばれるこのモデルは、従来のトランジスタ論理回路ではなく、結合発振器をシミュレーションしたネットワーク上に構築された画像生成器である。同社は、このアーキテクチャが従来のAIハードウェアよりも1000倍のエネルギー効率を実現できると主張している。
この主張は驚異的だが、その背後にある物理法則はそうではない。
計算としての同期
原理は、結合発振器の振る舞いを数学的に記述する蔵本モデルから導かれている。共有面上に置かれた2つのメトロノームが、わずかに異なるテンポで刻みながら、徐々に同期し、最終的に同じリズムに同調する。同じ現象は、一斉に光るホタル、心臓のペースメーカー細胞、脳のニューロンにも見られる。
Un-0のアーキテクチャでは、数千の仮想発振器が物理的にリンクされている。各発振器は位相、すなわちサイクルにおける現在位置を表す角度を持つ。発振器ネットワーク全体の位相角度の異なるパターンが、異なる画像をエンコードする。「靴」はある位相構成で表現され、「電車」は別の構成で表現される。
画像を生成するには、小さな発振器サブグループが目的の位相パターンにプリセットされる。これが「プロンプト」である。ランダムな位相の発振器からなるより大きなグループに接続されると、制御グループがシステム全体を目的のパターンとの同期へと引き寄せる。収束後、結果として得られる位相値のグリッドがデコーダーに供給され、数値がピクセル色に変換される。
効率性の源泉
従来のAIチップでは、すべての演算においてトランジスタがオンとオフの状態を切り替える必要があり、そのたびにエネルギーを消費する。大規模モデルの単一推論には、数兆回ものスイッチングが関与する可能性がある。
発振器ベースのアプローチは、離散的なスイッチングを連続的な物理ダイナミクスに置き換える。電流は自然に発振する閉ループを流れる。強制的なスイッチングはなく、トランジスタを保持するためのエネルギーの無駄もない。システムは、段階的な論理計算ではなく、同期の物理学を通じて答えに到達する。
「結合蔵本発振器のシステムは、これまでにないスケールで物理ダイナミクスによる学習の可能性を提供する」と同社はUn-0を発表するブログ投稿で述べている。
ベンチマークが示すもの
現在のUn-0のバージョンは、物理的なハードウェアではなく、発振器のソフトウェアシミュレーション上で動作する。同社の目標は、カスタムの発振器ベースチップを構築することである。
標準的な画像生成ベンチマークでは、Un-0はGoogleのBigGANやOpenAIのiDDPMなどの初期の画像生成モデルと同等のFID（Fréchet Inception Distance）スコアを達成した。16,384個の発振器を使用して、ImageNet 64×64でFID 6.74を記録した。これは、生成画像が参照画像にどれだけ近いかを測定する指標であり、値が低いほど良い。
これらの結果は、現在の最先端には及ばない。「従来の生成器は、絶対的な品質とパラメータ効率において依然として優れており、新しいアルゴリズムとモデルアーキテクチャでそのギャップを埋めることが今後の課題です」と同社は認めている。
今後の展望
Un-0は概念実証であり、商用製品ではない。発振器のソフトウェアシミュレーションから、1000倍の効率向上を実現する物理チップへの道のりは長く、不確実である。同社はLightspeed、Andreessen Horowitz、Sequoia、Jeff Bezosの支援を受け、45億ドルの評価額で4億7500万ドルのシード資金を調達しており、投資家が待つ覚悟があることを示唆している。
この研究のより深い意義は、商業的なものではなく、アーキテクチャ的なものかもしれない。AIハードウェアにおける標準的な前提は、より良いチップはより高速なトランジスタを意味するというものだ。Un-0は、計算が論理というよりも物理、すなわち答えをエンコードした同期状態に落ち着く結合要素のネットワークのように見える可能性があるかどうかを問いかけることで、その前提に挑戦している。
雅子 訳