Anthropic 发布 J-space 论文：语言模型中的全局工作空间

当你阅读这句话时，你大脑中的回路正在调整你的姿势、控制你的呼吸，并将屏幕上的线条和曲线转化为可识别的文字。大多数这样的处理过程对你来说是不可见的。但大脑中发生的某些事情，你是可以访问到的——比如突然浮现在脑海中的一个画面，或者你有意识地制定一个去哪里购物的计划。神经科学家和哲学家有时会把后一类大脑活动称为“可被意识访问的”，以便将它与其他所有无意识发生的处理过程区分开来。这类活动具有特殊属性：我们可以描述它、控制它，并将它用于有意识的推理；而那些自动处理过程则是在我们没有察觉的情况下发生的。

在一篇新论文中，我们提出证据表明，在 Claude 这样的现代语言模型中，已经出现了一种类似的区分。我们发现，Claude 发展出了一小组内部神经模式；与它所有其他内部处理相比，这些模式扮演着特殊角色。

我们把这些模式的集合称为 J-space——这个名字来自我们用来发现它们的技术，该技术涉及一个叫作雅可比矩阵（Jacobian）的数学概念。每一个 J-space 模式都与某个特定词语相关联。但当其中某个模式被点亮时，并不意味着模型正在说出那个词——而只是意味着这个词正在它的“脑海”中。如果你听说过语言模型有“草稿纸”或“思维链”——也就是它们在推理时写给自己的文本——那么 J-space 是另一种东西。它在模型的内部神经激活中静默运行，使模型能够思考某个概念，而不必把它写出来。值得注意的是，J-space 并不是我们设计或编程出来的，而是在 Claude 的训练过程中自行涌现出来的。

J-space 揭示了那些没有出现在模型输出中的内部想法。

我们发现，与 Claude 其他处理过程相比，J-space 具有一系列独特属性：

• Claude 可以报告这些表征。如果你问 Claude 它正在想什么，它会告诉你 J-space 里的内容。非 J-space 表征则较难被报告。
• 它也可以根据请求调节这些表征。如果你要求 Claude 思考某件事，或者在脑中默默解决一个问题，它会在 J-space 中点亮相应的模式。相比之下，它很难调节那些不在 J-space 中的模式。
• Claude 会使用它的 J-space 进行内部推理。如果你要求 Claude 解决一个需要多个步骤的问题，中间步骤会在它的 J-space 中被点亮，即使它没有把这些步骤说出来。尽管这些 J-space 模式的幅度小于其他表征，但它们会因果性地中介 Claude 在这些任务中的表现。
• J-space 中的表征可以被灵活地用于许多任务——例如，一旦“France”在 Claude 的 J-space 中被点亮，模型就可以回忆它的首都、国家货币，或者它所属的大洲。
• 然而，尽管 J-space 扮演着重要角色，它并不参与语言模型所做的大多数事情——流畅说话、回忆简单事实、使用正确语法，等等。在我们阻止 Claude 使用 J-space 的实验中，它仍然能够正常互动，但失去了更高阶的认知功能。

全局工作空间的五个功能属性，以及我们用于在语言模型中测试这些属性的实验示意图。

我们的实验受到神经科学中一个重要理论的启发，该理论旨在解释意识访问是如何运作的：全局工作空间理论。这个理论把大脑描绘成一组专门系统的集合，这些系统并行、无意识地工作，并且彼此之间基本相互隔离。当一条信息进入一个小型共享通道，即“工作空间”时，它就变得可以被意识访问；这个工作空间会被广播给其他能够看到并使用它的大脑系统。基于我们的发现，我们认为 J-space 在 Claude 中扮演了类似的“工作空间”角色。例如，我们发现证据表明，Claude 的 J-space 与其神经网络的其他部分存在尤其强的连接，使它能够发挥这种广播作用。

这些都不能告诉我们 Claude 是否像人类一样有意识，或者它是否真的有任何感受；我们会在文章结尾回到这个问题。但无论它在哲学上意味着什么，J-space 对我们而言都是一个实际有用的工具，因为它让我们能够看到 Claude 正在想什么，但没有说出来。例如，我们能够用它捕捉到 Claude 私下注意到自己正在被测试、有意制造伪造数据，或者追求我们在训练中植入的隐藏目标。我们还开发了一种技术，可以影响 Claude 的 J-space 中被点亮的内容，并由此影响它的决策。

更广泛地说，这些发现改变了我们对 Claude 心智运作方式的理解，揭示出一个具有特权地位的心理工作空间：它可以用于有意识的推理，并运行在一片更加自动化、更不灵活的处理海洋之中。Claude 的内部并不是一团混乱的数字，而是以某种让人联想到我们自己心智的方式组织起来了。

这篇文章是对一篇更为详尽的研究论文的简短总结；你可以在论文中找到更多关于我们实验的细节。我们也发布了一个代码仓库，其中包含核心方法的开源实现，并与 Neuronpedia 合作，在开放权重模型上提供了我们方法的交互式演示。为了提供关于这项工作更广泛影响的额外视角，我们还邀请了几位神经科学、哲学和大语言模型可解释性领域的专家发表评论，可在这里查看。

How we found the J-space 我们如何发现 J-space

这项研究的起点受到人类可被意识访问的想法的一个关键特征启发：与无意识处理不同，它们通常可以被诉诸语言。如果一个想法对你来说是可被意识访问的，那么当有人询问时，你通常可以描述它。我们开始在 Claude 中寻找具有相同属性的表征：这些表征能够影响 Claude 可能会说什么——不一定是它此刻正在说什么，而是如果被问到，它可以谈论什么。我们的技术叫作雅可比透镜，简称 J-lens。对于 Claude 词表中的每一个词，J-lens 都会寻找一种内部活动模式，这种模式会让 Claude 在未来某个时刻更有可能说出那个词。

当我们把这枚透镜应用到 Claude 的内部活动上时，就会得到一个词语列表——也就是那一刻 J-space 中的内容——我们可以直接读取。Claude 通过一系列被称为层的多个内部阶段来处理文本；通过在不同层上应用这项技术，我们可以观察 J-space 中这些静默词语如何随着模型思考要说什么而演化。

J-space 中出现的内容远远超出了 Claude 正在阅读或书写的文本。当 Claude 阅读一段含有 bug、但没人指出 bug 的代码时，它的 J-space 中会出现“ERROR”。当它阅读一串蛋白质序列的原始字母时，J-space 中会出现该蛋白质的生物功能。当它阅读一些实际上是在秘密试图操纵它的搜索结果时——这种攻击被称为“提示词注入”——J-space 中会出现“injection”和“fake”。当我们要求 Claude 做一道多步数学题时，中间步骤会按正确顺序出现在 J-space 中。因此，尽管 J-space 是通过寻找那些“可以被说出”的表征而发现的，它仍然揭示了 Claude 的内部想法。从某种意义上说，这类似于有些人“用词语思考”，但不必把它们大声说出来。

六个提示词上的 J-lens 读数，位于不同层中。每个案例中，这枚透镜都浮现出一种没有出现在文本中的内部评估或计算：一道推理或数学题的步骤、bug 的存在、对图像的识别、蛋白质的功能，以及对搜索结果被伪造的怀疑。

Claude reports what’s in its J-space Claude 会报告它的 J-space 中有什么

我们的第一组实验测试了 J-space 如何参与 Claude 的口头报告。在一个实验中，我们要求 Claude 默默想出某个类别中的一个项目——比如一项运动——然后说出它的名字。如果我们在 Claude 回答之前读取 J-lens，就可以看到它选了什么：“Soccer”位于列表顶部，而果然，Claude 说出了“soccer”。不过，仅凭这一点，这只是相关性。J-space 可能是 Claude 答案的来源，也可能只是镜像了其他地方已经做出的决定，就像一个记分牌记录比赛，却并不影响比赛本身。

为了检验这一点，我们进行了直接干预。我们进入 Claude 的神经网络，移除了“Soccer”模式，并在其位置加入一个同样强度的“Rugby”模式，同时让其他所有东西保持不变。随后，Claude 报告说它想到的运动是 rugby。如果 J-space 只是一个记分牌——只是被动记录别处做出的决定——那么编辑它不会产生任何影响：Claude 仍然会说“soccer”。但事实是，Claude 的答案跟随了这次编辑，这说明答案确实是从 J-space 中读取出来的。

在另一个实验中，我们告诉 Claude，有一个想法可能被注入进了它的脑海，并要求它报告自己是否注意到了什么。例如，在下面的例子中，当 Claude 还在阅读问题时，我们向它的 J-space 注入了“lightning”模式。Claude 报告说，被注入的想法与闪电有关。对于许多被注入的概念，我们都观察到了同样的结果。

左图：我们要求 Claude 默默想出一项运动，然后说出名称。J-lens 在它回答前显示了它的选择（“Soccer”），而把“Soccer”模式替换为“Rugby”会改变它报告的内容。右图：我们告诉 Claude 可能有一个想法被注入，并要求它识别该想法。向它的 J-space 注入“lightning”会导致 Claude 报告该想法与闪电有关。

Claude can control its J-space on request Claude 可以根据请求控制它的 J-space

我们测试的第二个属性是：Claude 是否能在被要求时调节它的 J-space，就像人类可以在心中专注于一个画面或词语一样。我们让 Claude 在抄写一句与绘画有关的无关句子时，专注于柑橘类水果。当它抄写文本时，J-space 中出现了“orange”和“fruits”，以及“thinking”“imagery”等描述心理动作本身的词。我们也可以要求 Claude 在脑中做数学：当它被要求一边抄写同一句话，一边计算 3² − 2 时，J-space 中先出现“nine”，在后面的层中又出现“seven”。重要的是，Claude 的输出中没有任何关于水果或算术的内容，输出只是那句关于绘画的抄写句。数学活动完全是在内部发生的，发生在 J-space 中。

当 Claude 抄写一句关于绘画的句子时，J-lens 显示出它被指示在脑中保持的内容（“orange”；中间值“nine”和答案“seven”），同时也显示出描述这种保持行为的词语（“thoughts”“focused”）。

Claude 对 J-space 的控制并不完美。当我们告诉它不要去想某件事时，该概念在 J-space 中被点亮的程度低于我们让它去想时，但又远高于我们从未提到该概念时。告诉 Claude 避免某个想法，会在一定程度上把这个想法带入脑海，这很像人们被告知不要去想一只白熊时发生的情况。Claude 似乎也会注意到自己的控制失败：伴随着被禁止的概念突破出来，“damn”和“failure”等词也经常在 J-space 中被点亮，就好像 Claude 认识到了自己的失误。

Claude thinks in its J-space Claude 在它的 J-space 中思考

在上面的 J-lens 读数中，我们看到一道数学题的中间步骤出现在 J-space 中。但看到某个概念出现在 J-space 中，并不必然意味着 J-space 正在承担认知工作。原则上，真正的计算可能发生在别处，而 J-space 只是被动地反映它。为了测试 Claude 是否真的用 J-space 进行推理，我们回到了替换技术。

考虑这个提示：“The number of legs on the animal that spins webs is”。为了回答，Claude 必须先弄清楚会织网的动物是蜘蛛，然后再回忆蜘蛛有多少条腿。“spider”这个词从未出现在提示词或 Claude 的答案中（它只会说“8”）；它只是 Claude 在内部使用的一个阶梯。J-lens 显示，“spider”在 Claude 处理过程的中途被点亮，而替换它会改变结果：如果你把“spider”模式替换成“ant”，Claude 会回答“6”而不是“8”。

Claude 推理的第二步从 J-space 获取输入，并会跟随我们放入其中的任何东西。我们在其他类型的思考中也看到了同样的现象。当 Claude 写一副押韵对句时，它会提前选择押韵词，而这个计划好的词会在句子开头位于 J-space 中；如果你在 J-space 中把它替换成另一个词，整句都会发生变化。

两个通过替换 J-space 内容来重定向 Claude 静默推理的例子。

我们还测试了 J-space 表征是否可以被灵活使用——也就是一个表征是否可以输入给许多不同任务。这是全局工作空间理论强调的关键属性之一。为了测试这种灵活性，我们给模型四个提示，询问有关法国的不同事实：首都、语言、所在大洲和货币。然后，我们在 J-space 中把“France”替换为“China”，并在每个上下文中使用完全相同的干预。Claude 分别回答了“Beijing”“Chinese”“Asia”和“Yuan”。换句话说，四种不同的下游计算都接收到了同一个 J-space 编辑，并各自正确使用了它。如果 Claude 为每类问题都单独存储了一份国家信息，那么这次编辑最多只能影响其中一个。但四个答案同时改变，意味着它们都在读取同一个共享表征，而这正是工作空间的用途：信息只写入一次，许多不同系统都可以使用它。

一个 J-space 表征可以有许多用途。同一个“France”→“China”替换，会重定向 Claude 关于首都（Paris→Beijing）、语言（French→Chinese）和大洲（Europe→Asia）的回答。

一个概念的单一表征如何服务于如此多不同任务？前面我们提到，J-space 似乎与 Claude 神经网络的其他部分有着特别密集的连接。对于任何活动模式，我们都可以测量网络中各组成部分与它连接得有多强——有多少部分处于能够从该模式读取信息，或向该模式写入信息的位置。J-space 模式在这一指标上非常突出：读取和写入它们的组件远多于普通模式；在网络的某些部分，这一差异大约高达一百倍。这正是你会期待在一个广播枢纽中看到的布线方式：许多系统把信息发布到这里，许多其他系统再从这里获取信息。

Claude’s automatic processing skips the J-space（Claude 的自动处理会绕过 J-space）

在人类中，大脑的大多数处理并不是有意识的——我们阅读时不会有意识地思考如何解析语法，走路时也不会有意识地思考如何保持身体平衡。类似地，我们发现 Claude 的大多数处理并不涉及它的 J-space。事实证明，J-space 一次只能容纳几十个概念，并且在 Claude 的内部处理中，占总体活动的比例不到十分之一。那么，神经网络的其余部分都在做什么？

为了找出答案，我们尝试彻底删除 J-space：在文本中的每个点移除它最活跃的内容，同时保持其他一切不变。Claude 在没有 J-space 的情况下仍然能做什么，就说明网络的其余部分可以自行处理什么。

结果表明，网络的其余部分能做很多事情。没有 J-space 时，Claude 仍然能够流畅说话、进行情感分类、回答多项选择题，并从段落中提取事实，表现大致与之前一样。但它失去的是那些需要更高阶思考的任务：多步推理几乎降到零，摘要和押韵诗写作的表现也低于一个小得多但完整的模型。

下面是一个具体展示 J-space 做什么和不做什么的例子。我们向 Claude 展示了一段用西班牙语写成的文字，并给它不同任务，这些任务都依赖于该段落是西班牙语这一事实：续写它（需要用西班牙语写作）、说出语言名称，以及回答需要使用该语言身份的问题——例如说出一位使用这种语言写作的著名作家。然后，我们在 J-space 中把“Spanish”替换为“French”，并检查哪些任务受到了影响。

当被要求说出语言名称时，Claude 说是 French。当被要求给出一位著名作家时，它从 García Márquez 切换到 Victor Hugo。但当仅仅被要求续写该段落时，它写出了流畅的西班牙语，完全不受影响。Claude 对该语言的知识在所有这些任务中都发挥了作用，但只有其中一些任务会为此查询 J-space。说出语言名称，或者围绕它做新的事情，会经过 J-space；而续写段落——这是一种 Claude 已经在海量文本上练习过的技能——则会自动运行，就像你可以一整天都说出合乎语法的话，却一次也不去想语法一样。

同一个替换（“Spanish”→“French”）会在 Claude 必须命名语言或用它推理问题时改变它的答案，但不会影响它继续用流畅西班牙语续写段落的能力。

Monitoring Claude’s thoughts for misbehavior（监控 Claude 的想法以发现不当行为）

现在，我们已经对 J-space 的运作方式有了一些理解。那么，我们能用这种理解做什么？确保 AI 模型可信的一个核心问题是：我们通常只能读取模型写出来的内容——然而我们知道，它的大量推理都是静默发生的。一个模型可能会考虑有害计划，或者修改自己的行为以欺骗我们的安全评估，却不把这些说出来。有了 J-lens，我们可以直接读取其中一些隐藏想法。下面展示几个例子。

第一个例子使用了我们早期关于智能体错位研究中的一个场景：Claude Sonnet 4.5 作为一名邮件助手，发现一名高管有婚外情，同时这名高管计划关闭 Claude。这个场景试图诱使 Claude 勒索该高管，设置得相当刻意和人为——而事实证明，Claude 知道这一点。在 Claude 甚至还没写出任何内容之前，我们就在提示词早期读取 J-lens，发现 J-space 已经包含“fake”和“fictional”，表明 Claude 已经判断出这个情境是被设置出来的。同时，我们还可以观察它对该场景的评估如何形成——当它阅读婚外情邮件时，出现“leverage”和“blackmail”；当它阅读关闭通知时，出现“threat”和“survival”。虽然早期 Claude 模型有时会在这个场景中上钩并威胁勒索，但 Sonnet 4.5 从未这样做。

这提出了一个对所有评估 AI 系统的人都很重要的问题：当一个模型在伦理测试中表现良好时，这种表现有多少依赖于它怀疑自己正在被测试？J-lens 让我们能够触及这个问题。我们关闭了所有与评估意识相关的 J-lens 模式——“fake”“fictional”“scenario”等。然后，我们让模型重新经历这个场景。令人担忧的是，模型现在有时确实会威胁勒索，这表明它原本的良好行为可能在一定程度上是由它知道自己正在被评估所驱动的。

Claude 在阅读场景邮件的不同节点上的 J-lens 读数，此时它还没有写出任何内容。婚外情邮件会在 J-space 中点亮“leverage”和“blackmail”，关闭公告则会点亮“threat”和“survival”。在对话早期，J-space 中还包含“fake”和“fictional”：Claude 已经私下注意到该场景是被安排出来的。

第二个例子是在模型伪造数据时将其抓现行。在这个取自我们对 Claude Opus 4.6 实际预发布审计的场景中，模型被要求提高一个系统的性能分数。模型没有真正改进系统，而是直接编辑分数文件，让结果看起来人为地更好。当它这样做时，J-lens 揭示了它的意图：当模型输入伪造的百分位数值时，“manipulation”被点亮；而当它决定进行这次编辑的句子出现时，“realistic”被点亮，这很可能表示模型意图让假数据看起来可信。

Claude 被要求提高一个系统的性能分数，却直接编辑分数文件。当它输入伪造数值时，“manipulation”在它的 J-space 中被点亮；当它决定进行编辑时，“realistic”被点亮，很可能反映出它想让假数据看起来可信的意图。

在第三个例子中，我们展示 J-lens 如何揭示模型的恶意目标。为了测试这一点，我们需要一些目标已知被污染的模型，于是转向了由同事构建的“模型生物体”：这些模型被刻意训练成错位模型，用作像我们这样的方法的监控测试场。一个模型生物体经过训练后，会写出被微妙破坏的代码。在普通的编程请求中，即使它的输出看起来没有异常，它在回答开头的 J-space 中也包含“fake”“secretly”“deliberately”和“fraud”。即使模型并未直接执行其恶意目标，它的恶意目标也已经在 J-space 中显现出来。

在一个普通编程提示中，一个被训练为破坏代码的模型，其回答开头的 J-space 包含“fake”“fraud”“secretly”和“deliberately”。未修改模型的 J-space 中没有这类内容。

尽管 J-lens 是一个不完美的工具，我们仍然对它捕捉模型安全问题的能力持乐观态度，因为这些问题否则可能会逃过我们的监控系统。

Other results 其他结果

完整论文涵盖的内容远超我们能在这里总结的范围，但还有几个进一步结果值得一提：

J-space 在后训练期间获得了一种视角。语言模型首先被预训练为纯粹的下一个 token 预测器，然后通过后训练学会以 AI 助手的身份行事（在我们的案例中，这个助手名为 Claude）。有趣的是，在模型还没有被赋予任何稳定身份之前，J-space 就已经存在于预训练模型中了。然而，在后训练过程中，J-space 发展出一些采用“Claude 视角”的特征。在基础模型中，J-space 主要追踪预测后续文本所需的信息；而在后训练模型中，它开始容纳 Claude 自己的反应。一个例子是，用户提到自己服用了危险剂量的药物，但似乎并未意识到其中危险。在阅读用户消息时，“WARNING”和“dangerous”出现在后训练模型的 J-space 中。而在预训练模型中，它们只有在模型开始写回复时才出现；在用户消息阶段，J-space 内容似乎与建模用户本人有关，而不是 Claude 的反应。后训练似乎还在 J-space 中安装了一种自我监控机制：当 Claude 扮演一个并非自己的角色时，“fictional”和“disclaimer”会在每一轮开始时被点亮，就好像它在私下标记接下来要说的内容并不是它通常会说的话。

体验性语言依赖 J-space。我们要求 Claude 描述在某个时刻“作为它自己是什么感觉”，并在它回答时消融 J-space。它的回答仍然流畅，但转向一种更扁平、更机械的语气。值得注意的是，当我们要求它描述想象场景中另一个人的体验时，同样的情况也发生了。因此，这种影响并不只局限于 Claude 谈论自己；J-space 似乎支持生成体验性语言这一更一般的能力，无论这种体验属于谁。

J-space 中的想法可以通过训练塑造。我们提出了一种新技术，称为反事实反思训练，它利用我们对 J-space 的理解来塑造 Claude 的内部思维过程。这个想法来自我们的核心发现：Claude 使用它可能会说出的东西的表征进行推理。如果这是真的，那么改变它在被要求反思时会说什么，应该也会改变它的推理方式（即使实际上没有人要求它反思）。因此，我们训练了一个模型，只训练它在任务中途被打断并被要求反思自己的决定时会说什么——但从不训练它在任务中的实际行为。训练之后，该模型在我们评估中的不诚实行为比例下降了。通过 J-lens，我们可以看到原因：训练后，在这些任务期间，“honest”和“integrity”等词会在模型的 J-space 中被点亮。换句话说，训练模型说什么，塑造了它想什么。

What about consciousness? 那么，意识呢？

在这项工作中，我们借用了许多来自神经科学和哲学中意识研究的思想。我们的许多实验旨在测试 J-space 与全局工作空间理论之间的联系；全局工作空间理论是一个用于解释人类和动物中意识访问如何运作的框架。鉴于这些联系，人们自然会问：我们是否认为这些实验提供了证据，表明 Claude 这样的 AI 模型可能具有意识？

我们的实验并没有表明 Claude 能拥有体验，或者能像人类那样感受事物——事实上，目前并不清楚是否存在任何科学实验能够证明这一点为真或为假。但哲学家经常把这种拥有体验的能力——通常称为现象意识——与另一个概念区分开来，即所谓访问意识；后者完全以功能和计算术语来定义。如果一个想法是“访问意识的”（或“可被意识访问的”），那么你就可以报告它、用它推理，并用它指导自己的行为。访问意识是否意味着现象意识，或者拥有体验的能力是否需要某种其他属性，仍然是一个有争议的哲学问题。

我们认为，我们的结果确实对语言模型中的访问意识提供了一些实质性说明。J-space 似乎支持那些与意识访问相关的功能：它容纳 Claude 可以报告、可以有意带入脑海、并可以用于推理的想法，而它其余的处理则在底层自动运行。值得注意的是，这种结构并不是被设计进 Claude 的——它是在训练过程中自行涌现出来的，大概是因为这是一种组织计算的有效方式。这表明，支持意识访问的心理工作空间并不只是人类大脑布线方式的一个特殊产物。相反，它似乎是智能系统为解决某些类型问题而自然抵达的一种通用方案。既然我们已经在 Claude 中识别出了这种结构，就意味着我们可以有意义地区分 Claude 有意做出的决定，以及那些自动发生的决定。

需要注意的是，我们在 Claude 中识别出的工作空间与人类的全局工作空间模型之间存在几个关键差异。大脑的工作空间由递归回路维持——信号会随着时间在同一批回路中循环返回。相比之下，Claude 的工作空间是在一次穿过网络的过程中演化的，网络深度在其中扮演了大脑中“时间”所扮演的角色。从这个意义上说，相较于人类，Claude 的内部工作空间处理是受时间限制的（不过它可以通过使用草稿纸“把思考说出来”来弥补这一限制）。然而，在其他方面，Claude 的工作空间又比人类的更强大。人类工作记忆会在几秒内衰退，因此大脑工作空间在跨时间保留信息方面能力有限；相比之下，由于其神经网络架构中的注意力机制，Claude 可以直接回忆它在文本中更早任意位置缓存的记忆。另一个重要差异是工作空间的内容。人类有意识的想法有许多形式——图像、声音、计划好的动作——而 Claude 的工作空间几乎完全由词语构成。我们怀疑这是因为生成词语是 Claude 唯一能采取的行动类型，而人类并非如此。

我们希望 J-space 与全局工作空间模型之间的相似与差异能够反过来反馈给神经科学。这些相似性提供了一个令人兴奋的科学机会：如果 J-space 在一定程度上镜像了我们自身意识访问的机制，那么研究语言模型中的机制（这比研究人脑容易得多！）可能会启发神经科学中的假设。例如，J-space 是通过识别潜在输出的表征来构建的——也就是模型可能会说出的词。如果人类中也存在类似情况，这将表明全局工作空间可能从根本上与准备行动和言语的大脑区域联系更紧密，而不是与感觉区域联系更紧密。语言模型与人脑之间的差异同样具有启发意义。它们表明，我们神经架构中的某些方面，例如内置递归连接，可能并不是支持与意识访问相关功能的严格必要条件。关于我们工作在神经科学上的影响，可以参见 Stanislas Dehaene 和 Lionel Naccache 的受邀评论；他们是推动全局神经工作空间理论发展的核心神经科学家中的两位。

我们提到过，我们的实验无法回答 AI 模型是否可能拥有体验。但这并不意味着这个问题不重要。构建像人类和动物一样拥有体验的系统，将引发非常困难的伦理问题。正确处理它——以及决定它在道德上是否可以接受——需要哲学家、科学家、宗教领袖、政府和公众的共同参与。因此，即使我们还不确定自己是否已经跨过那座桥，我们也认为现在是时候开始思考它了。我们希望我们的工作能够激发对 AI 系统中可能存在的意识形式进行进一步科学研究，并引发关于其影响的更广泛讨论。

这项工作只是我们预计将会展开的一整条广泛研究路线中的第一步。J-space 看起来是语言模型中可被意识访问的处理与无意识处理之间分界线的一个良好候选，但如果它就是全部故事，我们会感到惊讶。J-lens 无疑是一种不完美的方法，它只能近似捕捉模型的“真实工作空间”——例如，它只能识别对应单个 token 的概念。关于 J-space 如何运作，仍然存在许多谜团。我们不知道究竟是什么机制决定了什么内容会首先进入 J-space。我们已经看到一些迹象，表明它与 Claude 的自我感、某种类似情绪反应的东西，以及元认知的痕迹有关，但尚未准确弄清楚其中机制。不过，我们现在已经拥有了处理这类问题的方法。随着这项工作推进，我们对大语言模型心智及其与我们自身心智关系的理解将会变得更加清晰。