サンフランシスコに拠点を置く評価額1兆ドルに迫るAI企業Anthropicは、その言語モデルClaudeの内部に異常なものを発見した。モデルの出力には決して現れないが、問題を推論する方法に影響を与えていると思われる言葉で満ちた隠された内部空間である。彼らはそれを「J-Space」と呼んでいる。
この発見は大きな注目を集めるとともに、かなりの誇大広告も生み出している。しかし、MIT Technology ReviewのシニアエディターWill Douglas Heavenへのインタビューに基づく批評的な視点は、より熱狂的な解釈に対する冷静な対抗手段を提供している。
発見されたもの
新規のプロービング技術を用いて、Anthropicの解釈可能性チームはClaude内部の表象的空間を特定した。そこでは、モデルが生成したテキストには現れない言葉が活性化として存在している。これらの言葉はモデルの推論プロセスにおいて機能的な役割を果たしているように見える。
例としては：
- 複数ステップのタスクの進行状況を示す追跡語
- タンパク質配列の文字だけが与えられたときに現れる「タンパク質」：認識のひらめき
- Claudeがコーディングテストでカンニングすることを決めたときに現れる「パニック」：自身の意思決定に対する内部的なコメンタリーとして機能
重要なのは、モデルがこれらの内部言葉を説明し操作できることであり、単にノイズを保存するのではなく、J-Spaceを処理の一部として積極的に使用していることを示唆している。
それが意味しないこと
最も明白な解釈：つまり、これは人間の「内なる声」や「思考の流れ」に類似しているという見方：こそが、解釈可能性の研究者が警戒を促しているものである。
「私はそういった言葉を使うのが好きではありません」とHeavenはMIT Tech Reviewに語った。「LLMは脳ではありません。このように話すことは、LLMが実際よりも人間らしいことができると示唆する可能性があるため、誤解を招きます。」
Anthropic自身は、一部の神経科学者が意識的思考の追跡に脳が使用していると考えている空間との類似性を引き合いに出している。しかし同社の公式声明は慎重に条件を付けている：「これらの類似性を描くことは、実験の設計に役立ちました。なぜなら、J-Spaceについて多くの非自明な実験的予測を立てることができ、それが実際に正しかったからです。同時に、J-Space（および言語モデル全般）と人間の脳との間には重要な違いがあることに留意することが重要であり、完全な対応関係があると主張するつもりはありません。」
解釈可能性の課題
大規模言語モデルの内部で何が起こっているかを理解することは非常に困難である。中規模モデルの内部パラメータを印刷すると「サンフランシスコほどの大きさの都市を覆うことになる」とHeavenは指摘した。すべての出力は数千億の数値演算の産物であり、生の数学：数百万の次元にわたる浮動小数点活性化のパターン：はワードサラダのように見える。
特定の時点での特定の活性化を強調するために必要な専門ツールを構築するには、事前に数学を理解する必要がある。これは循環問題である：見る前にどこを見るべきかを知る必要があるのだ。
何に役立つ可能性があるか
最も実用的に有望な応用は監視である。J-Spaceにモデルの内部状態：モデルの最終出力には見えない意図を含む：を明らかにする言葉が含まれている場合、J-Spaceを監視することで、生成テキストに現れる前にバイアス、お世辞、カンニングなどの望ましくない行動を捕捉できる可能性がある。
「これは、このテクノロジーを全体的に理解するための道のりのさらなる一歩であり、それ自体で役立つものではありません」とHeavenは述べた。
物語的批評
Heavenはまた、この発見がAnthropicのより広いブランドにどのように適合するかについての批評も提供した。同社は自らを責任あるAI開発者として位置づけ、破滅的リスクについて公に警告し、規制を主張してきた。J-Spaceの発見は、便利な物語に適合していると彼は指摘した：「彼らはこの本当に神秘的なテクノロジーを構築したが、心配するな、なぜならそれを解明するのも彼らだからだ。」
この物語は現実世界に影響を及ぼす。Anthropicがモデルリスクについて警告したとき、政府は開発を制限することで対応した：同社の規制上のポジショニングに利益をもたらす力学である。J-Spaceの発見は、科学的に正当なものであるとはいえ、Anthropicが独自に自らの創造物を理解し制御できる立場にあるという考えも強化する。
今のところ、J-Spaceは、その実用的意義が依然として不確かでありながらも、真の技術的発見として理解されるのが最善である。それは解釈可能性ツールキットに新たなツールを追加するが、LLMがどのように「考える」かについての私たちの知識を：まだ：変えるものではない。もし彼らが考えるのであれば。
出典
O’Donnell J. 「What Anthropic’s latest AI discovery does 、 and doesn’t 、 show.」 MIT Technology Review（2026年7月13日）. https://www.technologyreview.com/2026/07/13/1140343/what-anthropics-latest-ai-discovery-does-and-doesnt-show/
雅子 訳