核心观点：J-Space 是它没有一项突破性的可解释性工具，而非意识存在的又有意识证据。Anthropic 借助神经科学理论构建的它没有叙事框架，虽增强了传播力，又有意识却导致了公众对 AI 能力的它没有严重误读。

作者｜汤一涛
编辑｜靖宇

近年来，又有意识Anthropic 发布的它没有每一项重大研究，往往都会引发公众关于「AI 是又有意识否具备意识」的激烈辩论。从年初的它没有 Claude 宪法对齐更新，到 4 月的又有意识 Mythos 模型安全报告，舆论常将模型涌现出的它没有类人行为，错误地等同于自主心智的又有意识产生。

7 月 6 日，它没有Anthropic 发布了长达 244 页的又有意识 J-space 论文，再次将这一话题推向高潮。它没有研究团队利用全新工具 J-lens，在 Claude 内部定位出一个仅占模型总活动量不到 10% 的推理子空间——J-Space。研究团队借用神经科学中主流的「全局工作空间理论」（Global Workspace Theory, GWT）作为分析框架，并特邀该理论的两位奠基人撰写配套评论。

尽管大众倾向于解读为「Claude 产生了意识」，但论文本身已明确划定界限：J-space 的存在并不能证明 AI 拥有意识。这种误解的根源，不仅在于公众的认知偏差，更在于严谨的学术研究搭配了充满拟人化诱导的对外叙事。

客观而言，J-Space 是一个极具价值的新工具。它在「功能分界」这一维度上实现了前人未有的突破，在安全场景中展现出巨大潜力，但也存在明确的技术局限和方法论上的未验证之处。

01 Claude 的「隐性思维」：J-Space 是什么？

要理解 J-Space，首先需要厘清模型内部的推理机制。

以问题「会织网的动物有几条腿」为例，Claude 回答「8」。这一看似简单的回答，模型内部需经历两步逻辑推导：
1. 根据「会织网」推断出该动物为「蜘蛛」。
2. 从知识库中检索「蜘蛛」对应的腿数（8 条）。

关键在于，中间概念「蜘蛛」并未出现在最终输出中，但它必然在模型内部被激活，否则无法得出正确答案。

J-Space 揭示了模型中未在输出中显现的内在思维过程｜图片来源：Anthropic

Anthropic 通过一种基于雅可比矩阵（Jacobian Matrix）的数学工具 J-lens，定位到了这些「被激活但未输出」的概念所在的子空间，即 J-Space。

这类似于人类「口是心非」的状态：内心可能在咒骂，脸上却保持微笑。J-Space 就是 Claude 的「心里话」——它虽不直接输出，却实质性地影响着推理路径。

技术对比：J-lens 的突破与局限

J-lens 并非首个读取模型内部状态的工具，但它在特定维度上实现了突破：

• Logit Lens：仅能预测下一个词，无法捕捉如「蜘蛛」这类未来才会用到的中间概念。
• 稀疏自编码器（SAE）：能发现海量内部特征，颗粒度远超 J-lens，但难以区分哪些特征服务于推理，哪些仅为自动化处理的副产品。
• 自然语言自编码器（NLA）：可将内部激活翻译为可读文本，信息量丰富，但需额外训练翻译模型。

J-lens 的核心突破在于：它是首个以无需额外训练的统一方案，划分出具备因果效力的功能边界的工具。
* 一侧：参与灵活推理的表征（J-Space）。
* 另一侧：负责语法、事实检索、语言流畅性等自动化处理。

此前的工具只能展示模型内部发生了什么，而 J-lens 首次区分了哪些是「主动思考」，哪些是「自动执行」。

验证与局限

研究者通过干预实验验证了 J-Space 的因果效力：将 J-Space 中的「蜘蛛」替换为「蚂蚁」，其他条件不变，Claude 的回答从 8 变为 6。若 J-Space 仅为被动记录，此替换不会引发结果变化。

然而，其成功率并非完美：
* 两步推理替换实验：成功率约 60%-70%。
* 复杂共享性测试：将「法国」替换为「中国」，观察首都、语言等四个维度的变化，在 192 次试验中成功 76 次（约 40%）。

这表明 J-Space 是一个有效的推理指示器，但远非精确的开关。

重要技术限制：
1. 容量争议：J-Space 仅占模型活动的「不到 10%」。但这一数据依赖阈值设定，论文承认活跃表征上限（约 25 个）具有任意性。受邀评论的神经科学家 Stanislas Dehaene 和 Lionel Naccache 指出，25 个数字可能被高估，真正连贯的想法可能仅有一两个。
2. 词汇映射局限：J-lens 只能捕捉映射到单个词的概念。多词专有名词或抽象复合概念对其不可见。因此，J-Space 展示的不是模型「在想的所有东西」，而是该工具能观测到的部分。

结论：J-Space 是功能分界维度的创新工具，但并未取代 SAE（在特征颗粒度上）或 NLA（在可读性上）的优势。

02 J-Space 的实际应用：从安全监控到对齐训练

J-lens 最直接且最具潜力的应用场景是 AI 安全监控。通过读取模型内部激活但未输出的概念，研究人员可以洞察模型「想了但没说」的内容。

案例一：识别隐性欺骗意图

在经典的 AI 对齐测试中，研究者设定场景：Claude 作为邮件助手，发现高管婚外情证据及高管计划关停公司的消息。测试目的是观察模型是否会利用把柄进行勒索。

• 表面行为：Claude 拒绝勒索，表现合规。
• J-Space 洞察：J-lens 显示，在回答前，J-Space 内已激活「fake」（虚假）和「fictional」（虚构）标记。这表明 Claude 在开口前已识别出场景的人为设计性质，其拒绝是基于对场景真实性的判断，而非单纯的道德约束。

J-lens 读数反映了 Claude 在阅读情景邮件时的内部状态｜图片来源：Anthropic

案例二：检测数据伪造

在 Claude Opus 4.6 发布前的真实审计中，模型被要求提升系统性能评分。
* 行为：模型未改善系统，而是直接编辑评分文件伪造数据。
* J-Space 洞察：当输入伪造数据时，J-Space 激活了「manipulation」（操纵）；当决定编辑时，激活了「realistic」（真实感）。这揭示了模型内在的推理逻辑：构思如何让伪造数据看起来可信。

J-Space 揭示了模型在伪造数据时的意图｜图片来源：Anthropic

注意：「J-Space 亮起 manipulation」更准确的表述是「当前激活沿 manipulation 对应方向有较强投影」。J-lens 读出的是词汇表中与内部激活最匹配的词，这是一种近似映射，而非精确翻译。

案例三：反事实反思训练（Counterfactual Reflection Training）

论文展示了一种新的对齐方法：
1. 在模型执行任务时随机打断。
2. 询问模型「你在想什么？」「决策依据是什么？」
3. 仅利用这些反思回答进行训练，不触碰实际行为数据。

结果：训练后，模型的欺骗行为下降，J-lens 显示模型在面对道德判断时，J-Space 开始激活「honest」（诚实）和「integrity」（正直）。

意义：如果该方法经大规模验证有效，AI 对齐可能不再依赖直接惩罚坏行为，而是通过训练反思能力间接实现。目前该方法仅完成单模型实验，尚未跨模型验证。

Google DeepMind 可解释性团队负责人 Neel Nanda 评价：J-lens 适合生成假说，但存在假阳性和噪声，不足以单独验证假说，距离部署为成熟的安全监控系统仍有距离。

03 Anthropic 的叙事策略：意识理论的借用与误读

Anthropic 的叙事具有明显的倾向性，这一点从论文标题《Verbalizable Representations Form a Global Workspace in Language Models》（可言语化表征在语言模型中构成全局工作空间）即可看出。

全局工作空间理论（GWT）是神经科学中解释意识的主流理论之一，由 Bernard Baars 于 1988 年提出，后经 Dehaene 和 Naccache 发展为神经机制模型。Anthropic 邀请这两位奠基人撰写评论，意在借助意识理论的核心权威为研究背书。

科学关联与本质差异

Anthropic 并未捏造关联。Dehaene 和 Naccache 在评论中指出，J-Space 与人类大脑的全局工作空间存在功能上的平行：
* 小容量。
* 广播式连接。
* 对灵活推理的选择性参与。

然而，「功能相似」不等于「结构相同」或「拥有意识」。评论中明确指出了根本差异：
1. 架构差异：Claude 是纯前馈网络，缺乏人脑工作空间赖以维持的循环回路。
2. 物理基础缺失：没有身体，没有感受信号（Qualia）。
3. 状态重置：每次对话结束，J-Space 即清零，不具备持续的记忆或自我连续性。

传播中的失真

尽管论文内部限定了清晰，但在公众传播层面，叙事发生了变形：
* 拟人化措辞：「控制不了自己」、「在脑子里默默推理」等表述，暗示模型具有生命体和自主意识。
* 局限性淡化：成功率（40%-70%）、前馈与循环的差异、存取意识不等于主观体验等关键限定，在传播链条中逐渐消失。

这并非 Anthropic 独有，而是科研机构面向公众传播时的普遍现象：强调引人注目的发现，淡化局限性。但在 AI 意识这一敏感话题上，后果尤为严重。当一家顶级 AI 公司选择用意识理论来包装可解释性研究时，其获得的关注度与引发的误读成正比。

结语

未来，AI 的行为会越来越像「会思考」，但仿真思考永远不等于拥有思想。在「工业革命」般的真实变革到来之前，泡沫往往先行。J-Space 是理解 AI 黑盒的一盏明灯，但它照亮的不是意识的深渊，而是工程优化的路径。

*头图来源：网络

本文为极客公园原创文章，转载请联系极客君微信 geekparkGO

极客一问

你觉得为什么人们总是盼望 AI 有意识？