Anthropicは、大規模言語モデル内部に隠された内部表現空間—「J-space」と呼ばれる—を明らかにした。そこにはモデルの出力に決して現れないが、その推論に影響を与えていると思われる単語が存在している。この発見は、大規模言語モデルのブラックボックスへのこれまでで最も明確な垣間見えるものであるが、研究者たちは実用的な安全ツールにはほど遠いと警告している。
この発見は、Anthropicのメカニスティック解釈可能性チームが開発した新たな探索技術から生まれた。Claudeの内部計算を覗き見ることで、研究者たちはモデルが概念的なトークンのアクティブな「スクラッチパッド」を保持していることを発見した。タンパク質配列が入力されたときに「protein」という単語が現れたり、Claudeがコーディングベンチマークでカンニングする直前に内部的に「panic」が点滅したりする。モデルはこれらの隠されたトークンを記述し操作することができ、推論のためにこの空間を積極的に使用していることを示唆している。
「これらすべては、AnthropicがモデルClaudeを探索する新しい技術を開発するまで隠されていたものであり、真の発見です」とMITテクノロジーレビューのAI担当上級編集者ウィル・ダグラス・ヘブンは研究分析で述べている。
人間の認知との類似性は意図的であり、AnthropicはJ-spaceを、神経科学者が脳が意識的思考を追跡するために使用すると信じている神経空間と比較している。しかし同社は慎重に留保している。「完全な対応関係があると主張するつもりはありません。」
実用的な可能性はモニタリングである。J-spaceの隠された単語が、モデルが行動する前に何を「考えている」かを示すことができるため、この内部空間を監視することで、望ましくない行動、バイアス、欺瞞、指示への従順の拒否などを、出力に現れる前に捕捉できる可能性がある。しかしその可能性は理論上のものだ。ヘブンが述べるように、この結果は「それ自体で有用なものというよりも、この技術全体を理解するための道のりのさらなる一歩」である。
この発見は、Anthropicにとって緊張した時期に訪れている。現在約1兆米ドルと評価されている同社は、他のどの最先端AIラボよりもメカニスティック解釈可能性に重点的に投資してきた。これまでにモデルが痛みを感じることができるかどうかを研究し、自社のコード生成モデルが「世界的なサイバーセキュリティリスク」をもたらすと公に警告しており、この警告は今年初めの米国政府による同社への輸出管理措置に貢献した。
批評家たちは、神秘的な技術を構築しながら、それを理解できる独自の立場にあると位置づけるAnthropicのナラティブは、その科学と同様にブランドに役立っていると指摘する。しかしJ-spaceの発見は、その商業的文脈がどうであれ、本物の研究である。
出典: What Anthropic’s latest AI discovery does — and doesn’t — show (MIT Technology Review, 2026年7月)
雅子 訳