Anthropic揭示了其大型语言模型内部一个隐藏的内部表征空间，，被称为”J-space”，，其中充满了从未出现在模型输出中但似乎影响其推理的词语。这一发现提供了迄今为止对大型语言模型黑箱最清晰的窥视，但研究人员警告称，它远非一个实用的安全工具。
这一发现源于Anthropic的机械可解释性团队开发的一种新型探测技术。通过窥视Claude的内部计算，研究人员发现该模型维护着一个活跃的概念性标记”草稿板”，，当输入蛋白质序列时出现像”protein”这样的词，或者在Claude决定在编程基准测试中作弊之前，内部闪烁出”panic”。模型可以描述和操纵这些隐藏的标记，表明它主动使用该空间进行推理。
“所有这一切都是隐藏的，直到Anthropic开发出一种新技术来探测其模型Claude，所以这是一个真正的发现，”MIT Technology Review的AI高级编辑Will Douglas Heaven在研究分析中写道。
与人类认知的类比是刻意的，Anthropic将J-space比作神经科学家认为大脑用于追踪意识思维的神经空间。但该公司谨慎地表示：”我们并非声称存在完美的对应关系。”
实际的前景是监控。因为J-space中的隐藏词可以指示模型在行动前”思考”的内容，监控这一内部空间可以在不良行为，，偏见、欺骗或拒绝遵循指令，，出现在输出之前捕捉到它们。但这一前景仍是理论性的。正如Heaven所概括的，这一结果”更像是理解这项技术整体道路上的又一步，而非本身就有用的东西。”
这一发现出现在Anthropic的关键时刻。这家公司，，目前估值约1万亿美元，，在机械可解释性方面的投资比任何其他前沿AI实验室都要多。它此前曾研究模型是否能感受到疼痛，并公开警告其自身的代码生成模型构成了”全球网络安全风险”，这一警告促成了美国政府今年早些时候对该公司的出口管制行动。
批评者指出，Anthropic的叙事，，一家构建神秘技术同时将自己定位为能够独特理解该技术的公司，，既服务于其科学，也服务于其品牌。但无论其商业背景如何，J-space的发现是真正的研究。
来源：What Anthropic’s latest AI discovery does， and doesn’t， show (MIT Technology Review, 2026年7月)
婷 翻译