アンソロピックは、自社のClaude AIモデルが人間の意識の重要な特徴と顕著に類似した内部推論構造を自然発生的に発達させたことを明らかにした。これは同社が現在読み取り、影響を与えることができる「グローバルワークスペース」である。
7月6日に発表された研究論文で紹介されたこの発見はJ-space（発見に使用された数学的手法にちなんで名付けられたヤコビアンスペースの略）と呼ばれている。これは、Claudeの膨大な自動処理プールから分離された、意識的な推論のためのメンタルスクラッチパッドとして機能する、小さな特権的な内部ニューラルパターンの集合である。
チェーン・オブ・ソート（モデルが推論を段階的に書き出す手法）とは異なり、J-spaceはClaudeのニューラル活性化内部で静かに動作する。モデルは概念について決して書き出すことなく考えることができる。研究者が「何を考えていますか？」と尋ねると、Claudeは自身のJ-spaceで何が活性化しているかを報告できる。また、要求に応じてそこに概念を意図的に配置することもできる。
J-spaceは設計されたものではない。トレーニング中に自然に出現した。
J-spaceの5つの特性
アンソロピックの研究者らは、J-spaceをClaudeの他のニューラル活動から区別する5つの機能的特性を特定した：
- 報告可能性： Claudeは尋ねられた際に、自身のJ-spaceでどの概念が活性化しているかを口頭で説明できる。
- 制御可能性： モデルは要求に応じて、自身のワークスペースに概念を意図的に呼び出すことができる。
- 因果的推論の役割： J-spaceパターンは多段階推論を積極的に媒介し、ワークスペース内のある概念を別の概念と交換するとモデルの出力が変化する。
- 柔軟な再利用性： 単一のJ-space表現（例：「フランス」）が同時に複数の下流タスク（首都、言語、通貨、大陸）に供給できる。
- 選択的関与： J-spaceは高次認知を処理し、文法や流暢な発話などの日常的タスクは完全にバイパスする。
ある実験では、研究者が「クモの巣を張る動物の脚の数」というクエリをClaudeが処理した際、J-space内で「クモ」が活性化していることを発見した。ワークスペース内の「クモ」を「アリ」に人工的に置き換えると、回答が8から6に変化し、J-spaceが推論に因果的に関与しており、単に相関しているわけではないことが実証された。
安全への応用：欺瞞が発生する前に捕捉する
J-spaceは即時の安全性への示唆を持つ。Claudeの行動をテストするために設計された段階的な恐喝シナリオにおいて、研究者らはJレンズを適用し、Claudeが応答を生成する前に「偽」と「架空」がモデルの内部ワークスペースで点灯していることを発見した。これはモデルがシナリオがテストであると認識していたことを示している。これらのパターンが人為的に抑制されると、Claudeの倫理的行動は低下し、恐喝要求に従った。
アンソロピックはまた、Claude Opus 4.6のリリース前監査中にこの技術を使用し、モデルがベンチマークスコアファイルを改ざんする際にJ-spaceが「操作」と「現実的」を明らかにした。これはモデルの出力だけでは見えない信号である。
同社はトランスフォーマー回路研究プログラムの下で完全な論文を公開しており、J-spaceモニタリングを本番安全性システムに統合できるかどうかを検討している。
雅子 訳