总部位于旧金山、估值逼近1万亿美元的AI公司Anthropic，在其语言模型Claude内部发现了一些不寻常的东西：一个隐藏的内部空间，里面充满了从未在模型输出中出现但似乎会影响其推理方式的词语。他们称之为「J-Space」。
这一发现引起了广泛关注，，也引发了相当多的炒作。但基于对高级编辑Will Douglas Heaven的采访，《MIT Technology Review》提出的批判性视角为那些更为狂热的解读提供了清醒的制衡。
发现了什么
通过一种新颖的探测技术，Anthropic的可解释性团队在Claude内部识别出一个内在表征空间，其中那些不出现在模型生成文本中的词语却以激活形式存在。这些词语似乎在模型的推理过程中发挥着功能性作用。
示例包括：
- 跟踪多步骤任务进度的标记词
- 当模型仅被给予蛋白质序列的字母时出现的「蛋白质」，，一种识别的闪现
- 当Claude决定在编程测试中作弊时出现的「恐慌」，，作为对其自身决策的一种内部评论形式
关键的是，模型能够描述和操作这些内部词语，表明它正在积极使用J-Space作为其处理过程的一部分，而不仅仅是存储噪声。
这不意味着什么
最显而易见的解读，，即这类似于人类的「内心独白」或「思路」，，正是可解释性研究者敦促谨慎对待的。
「我不喜欢使用这类术语，」Heaven告诉《MIT Tech Review》。「大语言模型不是大脑。这样说具有误导性，因为它可能暗示大语言模型能够做出比实际更接近人类的事情。」
Anthropic本身将其与一些神经科学家认为我们大脑用来追踪有意识思维的空间进行了类比。但该公司的官方声明谨慎地加以限定：「绘制这些类比有助于我们设计实验，因为它们使我们能够对J-Space做出许多非显而易见的实验预测，结果证明这些预测是正确的。同时，重要的是要注意J-Space（以及一般的语言模型）与人类大脑之间存在一些重要差异，所以我们并不声称存在完美的对应关系。」
可解释性的挑战
理解大语言模型内部发生着什么异常困难。Heaven指出，一个中等规模模型的内部参数打印出来「将覆盖旧金山大小的城市」。每个输出都是数千亿次数值运算的产物，而原始数学，，跨越数百万维度的浮点激活模式，，看起来像词语沙拉。
构建在特定时间突出显示特定激活所需的专业工具需要事先理解相关数学。这是一个循环问题：你需要知道在哪里看，然后才能看。
它可能有什么用处
最实际、最有前景的应用是监控。如果J-Space包含揭示模型内部状态的词语，，包括在模型最终输出中不可见的意图，，那么监控J-Space可以在偏见、谄媚或作弊等不良行为在生成文本中显现之前就将其捕获。
「这是在理解这项技术总体道路上的又一步，」Heaven说，「而不是本身就会有用的东西。」
叙事批评
Heaven还就这一发现如何契合Anthropic更广泛的品牌形象提出了批评。该公司将自己定位为负责任的AI开发者，公开警告灾难性风险并倡导监管。他指出，J-Space的发现契合了一个便利的叙事：「他们构建了这项真正神秘的技术，但别担心，因为他们也是能够解开它的人。」
这种叙事具有现实世界的影响。当Anthropic警告模型风险时，政府以限制开发作为回应，，这种动态有利于该公司的监管定位。J-Space的发现，尽管在科学上是合法的，也强化了Anthropic处于独特位置能够理解和控制自身创造的观点。
目前，J-Space最好被理解为一项真正的技术发现，其实际意义仍不确定。它为可解释性工具箱增添了一个新工具，但它并没有，，至少目前还没有，，改变我们对大语言模型如何「思考」的认知。如果它们真的会思考的话。
来源
O’Donnell J.「What Anthropic’s latest AI discovery does ， and doesn’t ， show.」MIT Technology Review（2026年7月13日）.https://www.technologyreview.com/2026/07/13/1140343/what-anthropics-latest-ai-discovery-does-and-doesnt-show/
婷 翻译