SEEING THE UNSPOKEN · 看见它没说出口的词
大语言模型说出的每一个词，都不是脱口而出：你的问题要先流过它内部上百层的神经网络，一路上，大量候选答案和中间概念被短暂点亮、相互权衡，大多数随即被放弃，从未出现在屏幕上——它们就是模型没说出口的想法。过去五年，Anthropic 的可解释性（interpretability）团队一直在打造越来越精密的「脑成像仪」——像给一个正在思考的大脑做扫描，把这些看不见的念头逐渐变成可读、可干预的对象。这个页面用 7 个互动实验，带你亲手走完这条路——从「为什么黑箱看不懂」，一直到 2026 年最新发现的「全局工作空间」。
这个页面讲一个侦探故事：人类造出了会说话的机器，却看不懂它心里在想什么。五年里，研究者一步步把「看懂」变成了现实——
① 这台机器没有说明书：它不是被编写出来的，而是「猜词」猜了万亿次后自己长成的（第〇章）；
② 打开一看，里面一团乱：每个零件都身兼数职（第一章）；
③ 换个看法，乱码变清楚了：每个概念有了自己的信号灯（第二章）；
④ 把信号连成线，就能看到它一步一步的推理（第三章）；
⑤ 接着发现它心里有块「打草稿的黑板」——能偷看、能涂改、能整块擦掉（第四章）；
⑥ 于是，「检查 AI 心里在想什么」第一次从科幻变成了可以执行的体检（第五章）。
↓ 顺着页面往下，相当于沿着五年研究史「下潜」。所有实验均为按论文实测结果复刻的教学模拟，不需要任何背景知识。
模型不是程序员一行一行写出来的，而是「猜下一个词」猜了万亿次之后自己长出来的——就像没人给你讲过母语的语法，你听多了自然就会。副作用也一样：它自己也说不清自己是怎么会的。
在下潜之前，先花三分钟认识研究对象。大语言模型的本体是一个神经网络。这个名字借自大脑：大脑由几百亿个神经细胞组成，每个细胞从邻居那里接收电信号，攒够了就「放电」，把信号传给下一个。人工神经网络模仿的正是这个结构——只不过它的神经元（neuron）不是细胞，而是一个再简单不过的小计算单位。
理解这个小单位，只需要初中数学。回忆一下一次函数：y = kx + b。给你一堆散点——比如一批房子的「面积 x」和「价格 y」——你想找一条直线尽量穿过它们，靠的就是调 k 和 b 这两个数：斜率不对就拧拧 k，整体偏高偏低就拧拧 b。调好之后，来一套没见过的房子，代入 x 就能报出个像样的价格。「学习」最原始的样子，就是调 k 和 b 去贴合数据。
输入不止一个也是一样。判断「今天要不要带伞」，可以写成 y = k₁·云量 + k₂·湿度 + k₃·降雨概率 + b——重视哪个因素，就给谁配大一点的 k。一个神经元，本质上就是这样一个多输入的线性函数。算出来的 y 超过门槛，它就「兴奋」起来，向下一层喊「带伞！」（顺便说破：这个「门槛」不是新角色，它就是 b 的另一副面孔——把 b 从加法里挪到比较式的另一侧，「截距」就变成了「及格线」）；它此刻兴奋的程度，就是后文常说的激活值（activation）。
但光有线性还不够：直线不管怎么相加、嵌套多少层，结果永远还是直线，而世界的规律大多是弯的。所以每个神经元的出口都装了一个小小的「拐弯开关」（激活函数）——最常见的一种简单粗暴：不到门槛，一律输出 0。别小看这一下拐弯：会拐弯的线性函数层层嵌套，理论上可以拼出任意复杂的曲线。
「激活函数」到底是什么？就是套在总分外面的最后一道小加工，决定神经元最终「喊多大声」。最流行的一种叫 ReLU，规则简单粗暴：总分是负数就输出 0（闭嘴），是正数就原样放行——图像正好是「先平后斜」的一条折线，弯就是这么拐出来的。
每个神经元的拐弯方式都不一样吗？恰恰相反，基本全员同款——激活函数是出厂统一设置，训练中从不改变。真正各不相同、天天在变的，是每个神经元的权重和门槛：同一个「拐弯模具」，你的权重让你在 3 处拐弯，我的让我在 −7 处拐弯，有的拐得陡、有的拐得缓。就像乐高：积木只有几种，造型全靠拼法。激活函数是统一的模具，权重才是每个神经元的个性。
神经网络，就是把亿万个这样「会拐弯的线性函数」排成一层又一层，连成一张巨大的接力网。每根连线上的 k，学名叫权重（weight）——你可以把它想成一个可调的「音量旋钮」。连同每个神经元的门槛在内，这些可调的数字统称参数（parameter）：平时说的「700 亿参数模型」，数的就是旋钮的个数。整个大模型说到底是一台有几千亿个旋钮的超大号函数机器：输入你的话（先转成数字），输出下一个词的概率。选定一个词后，再把它接到输入末尾、接着猜下一个——长篇回答就是这样一个词接一个词「滚」出来的。智能不藏在任何一个神经元里，而藏在几千亿个旋钮的整体配置里。
顺着这张图再多说一句：这上百层不是平均使力的。大体上，浅层干的是拼写、词形、语法这类「体力活」；中间层逐渐浮现出概念、关系和候选念头——本页所有仪器观察的都是这一段；深层再把胜出的念头组装成具体的下一个词。「浅 → 中 → 深」这条流水线，请先记住，后面每一章都会回到它。
这几千亿个旋钮是怎么调好的？没有一个是人手调的，全靠「训练」。训练任务简单得出奇：猜下一个词。给模型看海量文本，遮住下一个词让它猜；猜错了，就把所有旋钮朝「让这个错误变小」的方向各拧一丝丝——这一步的学名叫反向传播（backprop），本质上就是前面「调 k 和 b 去贴散点」的全自动、超大规模版。整个过程就像调一台有几千亿个旋钮的收音机：每听到一声杂音，就把全部旋钮微调一遍。这个动作重复数万亿次之后，旋钮们就自己「长」成了会写诗、会编程的配置。
这也是生成式 AI 和传统软件最深的分野。传统软件是建造出来的：每一行代码都由人写下，每个功能分支都有人负责，出了问题可以翻源码追责。大模型是生长出来的：人类只搭了架子（网络结构）、定了目标（猜词），内部的一切规律都是训练中自发涌现的。可解释性团队负责人 Chris Olah 有个流传很广的说法：现代 AI 与其说是被「建造」，不如说是被「培育」出来的——我们决定土壤和气候，但长成什么形状，是它自己的事。
到这里，预备知识只剩最后一块拼图——一对贯穿全篇的区分。参数（那几千亿个旋钮）在训练结束后就冻结了：你跟模型聊天时，它们一动不动。真正随每句话变化的，是激活——数字流过网络时临时点亮的信号，像电流，转瞬即逝。带伞例子里神经元的「兴奋程度」、上面实验里跳动的概率条，都是激活。模型「此刻在想什么」，写在激活里，而不在参数里。
真实训练就是把这个循环在数万亿个词上重复：没有人教它李白，也没有人写下任何语法规则——一切规律都是它自己从预测错误里「长」出来的。代价随之而来：参数里没有注释，激活又转瞬即逝——我们造出了它、会用它，却读不懂它。接下来四章的所有仪器，都是冲着「读懂激活」去的。这就是下一章的起点。
打开机器一看，傻眼了：一个零件同时管着好几件八竿子打不着的事。像一张纸上叠印了好几页字，单看哪一层都是乱码——这就是头几年大家读不懂它的原因。
这个领域的起点其实在视觉模型。2014–2020 年间，以 Chris Olah 为代表的一批研究者在图像网络里找到过不少「模范神经元」：有的专门检测车轮，有的专门检测曲线、狗耳朵——顺着这些神经元，真能画出一张张清晰的小电路图。大家一度乐观地以为，语言模型也会这样：一个神经元负责一个概念，挨个标注，就能读懂整台机器。
但真正打开之后，乐观碎了一地：大多数神经元是「多义」的（polysemantic）——同一个神经元，会对一堆毫不相干的东西放电。下面实验里那个对论文引用、英文对话、HTTP 请求、韩文全都响应的神经元，不是精心挑选的反例，而是常态。
2022 年的《Toy Models of Superposition》给出了解释：模型想要表达的概念数量，远多于它拥有的神经元数量。于是它把许多概念「压缩」进同一批神经元，像在同一张纸上叠印好几层文字——单看任何一层，都是乱码。这就是叠加(superposition)。
为什么要挤？算一笔账就明白。世界上值得表达的概念几乎无穷多——人名、语言、语气、代码风格、化学知识……而神经元数量是有限的。好在绝大多数概念在任何一段具体文本里都用不上（一篇菜谱里几乎不会出现拜占庭历史），于是模型学会了精打细算：让概念们分时复用同一批神经元，谁被用到谁上场。压缩换来了容量，牺牲的是可读性——这笔交易模型做得毫不犹豫，因为它的训练目标里，从来没有「让人类看懂」这一项。
灵感来源：《Towards Monosemanticity》（2023）中记录的真实多义神经元。破解办法不是换台机器，而是换个看法：就像用棱镜把混在一起的白光分开成七种颜色，研究者用字典学习（dictionary learning）把纠缠在一起的信号重新拆开，乱码就变成了一个个单独可读的特征（feature）。
「棱镜」造出来了：每个神经元的混杂信号被拆成一个个单独的概念，白光分成了七色。更妙的是，每个概念还是一个可以拧的旋钮——把「金门大桥」拧到最大，模型就满脑子都是桥。
上一章结尾说的「棱镜」，正式名字叫稀疏自编码器（SAE），背后的手艺是字典学习。原理不玄：给模型的激活配一本超大号词典——词条数量远多于神经元数量。词条里存的不是文字，而是一组数字——还记得「向量」吗？每个词条就是一个方向。所谓「拼」，就是把几个方向按用量加起来：比如「雾中的桥」这段激活，可以拆成「0.8 × 桥方向 ＋ 0.5 × 雾方向」。而 SAE 的死规矩是：每次拼装只准用极少几个词条（这就是「稀疏」）。空间宽裕、用量吝啬，两头一挤，逼得每个词条只好老老实实认领一个概念。
2023 年第一次实战，团队在一个单层小模型上拆出了几千个特征：阿拉伯语文本、DNA 序列、Base64 编码、法律文书……个个单义、清清爽爽——「棱镜」被证明真的可行。2024 年的《Scaling Monosemanticity》把它架上当时的生产模型 Claude 3 Sonnet，特征数量涨到三千多万。人工根本看不完，团队干脆搭了一条自动解读流水线：让 Claude 给 Claude 的特征写说明书。
翻这本三千万词条的大词典很有意思。既有「金门大桥」这样具体的，也有「内心冲突」「谄媚的夸奖」「代码中的安全漏洞」这样抽象的；还有一批让安全研究者心头一紧的词条：欺骗、追逐权力、制造危险品的知识。它们的存在本身就是重要情报——模型确实「懂」这些，只是平时不说。
更重要的是，特征不只是「能看」，还可以拧：人为调大某个特征的激活值，模型的行为会随之改变。这是从「相关」迈向「因果」的第一步。
这不是段子：2024 年 5 月，Anthropic 真的短暂上线过「Golden Gate Claude」，24 小时内它的所有回答都会绕回金门大桥——靠的不是提示词，而是直接改写内部激活。同批被找到的著名特征还包括：内心冲突、谄媚的夸奖、代码中的 bug。
光认识零散的概念还不够，还要看概念之间怎么接力。归因图就像给一次思考拍 X 光：达拉斯 →（心里默想）德克萨斯 → 奥斯汀。把中间那块「骨牌」换掉，答案就跟着变——证明它真的在推理，不是在背答案。
单个特征还不够——思考是特征之间的接力。2025 年的《On the Biology of a Large Language Model》引入归因图（attribution graph），把模型的一次回答拆成一条条因果链：哪个概念推倒了哪个概念，像多米诺骨牌一样一目了然。
最著名的例子：问模型「达拉斯所在州的首府是哪座城市？」归因图显示，它内部先激活了一个从未说出口的中间概念——「德克萨斯」，再由这个概念触发答案「奥斯汀」。这证明模型确实在做两跳推理（two-hop reasoning），而不是死记硬背问答对。
中间概念看不见、摸不着，却真实决定输出——换掉它，答案就跟着换。同一篇论文还发现了写押韵诗时提前规划韵脚的回路、跨语言共享的「概念层」，以及催生幻觉与越狱的电路。
「提前规划韵脚」值得展开讲。让模型写两行押韵的诗，归因图显示：在写第二行第一个字之前，行尾那个韵脚词就已经在内部点亮了——它先选定终点，再倒着铺路。研究者把这个提前点亮的韵脚换掉，整行诗随即重新组织，稳稳落在新韵脚上。「一个词接一个词往外吐」的表象之下，藏着货真价实的谋篇布局。
「幻觉」的电路则有点反直觉：对训练充分的助手模型来说，拒绝回答才是默认状态——内部有一条常开的「不知道就说不知道」的回路。当模型认出「这个我真的知道」（比如迈克尔·乔丹打什么球），一个「已知实体」信号会把拒答回路关掉、放行答案。幻觉往往就是这个开关误触发：模型「觉得自己认识」某个名字，拒答回路被错误关闭，后面的电路只好硬着头皮编一个像样的答案。
顺带交代一个幕后细节：归因图并不是直接画在原模型上的。研究者先训练一个「透明替身」——跨层转码器（CLT）——让它尽可能一步不差地复刻原模型的计算，再在替身上追踪因果链。替身并不完美：大约 10%–20% 的计算至今解释不了，在图上被老老实实标成「错误节点」——研究者戏称这是模型里的暗物质。
另一个好玩的案例是心算。问模型「36+59=？」，归因图显示它同时走了好几条并行的路：一条粗略估算「结果大概在 90 上下」，一条精确计算「个位 6+9，末位是 5」，几条路汇合拼出 95。更妙的是，如果让它自述怎么算的，它会一本正经地说「列竖式、逐位相加、进位」——它做的和它说的，不是一回事。这正是可解释性的价值：看它怎么想，比听它怎么说更可靠。
最新发现：模型心里有一块打草稿的黑板，上面写着它此刻想说而没说的词。研究者不但能偷看，还能往上写字、涂改、整块擦掉——擦掉之后，模型连「描述自己的感受」都不会了。
2026 年 7 月的新论文把问题推到极致：模型内部有没有一块统一的「思维黑板」？答案是——有一个功能上非常像的东西。
团队造了一台更高清的「成像仪」，叫雅可比透镜（J-lens）。用它去读，发现在模型的中间层存在一小撮特殊表征：每一个都对应一个具体的词，是模型「想说而未说」的念头。它们同时只有约 25 个，占激活总量不到 10%，却承担着灵活推理的关键角色——可以被报告、被召唤、被下游电路广泛读取。团队把它命名为 J-空间(J-space)，并论证它的行为方式与认知科学里的「全局工作空间」理论高度对应。
「全局工作空间」不是随口起的名字，它借自认知科学里一个有几十年历史的理论。心理学家伯纳德·巴尔斯（Bernard Baars）把意识比作剧场：台下坐着无数各干各事的无意识加工过程，舞台上只有一小块聚光灯照亮的区域——被照亮的内容会广播给全场，供所有过程取用。J-空间的行为和这个剧场惊人地相似：足够小（同时只有约 25 个念头）、可报告（模型能说出上面有什么）、被广播（下游电路都在读它）。论文措辞很谨慎：这是功能上的对应，不等于说模型有主观体验。
最妙的是，这块黑板可以做因果手术：读它、往里注入念头、交换念头、整块关掉。下面四个场景，全部复刻自论文的真实实验。
图例：绿色芯片 = 透镜读出的未说出概念；琥珀色 = 人为干预。所有输出文案依据论文描述改写为中文。
能读心之后，最实际的用处是给 AI 做体检：看它是不是想一套、说一套。研究者真的在那块「黑板」上看到过「操纵」「慌乱」这样的念头，也看到过它意识到「自己正在被考试」。
回看五年，四代方法其实在反复打磨同一套「因果工具箱」。可解释性的铁律是：只有干预，才能证明因果——光「读到」一个概念，不足以说明它真的在起作用；要换掉它、删掉它，看行为跟不跟着变。
用探针或透镜把内部激活翻译成人话。是一切的起点，但只能给出相关性。
把一个概念向量加进激活，凭空「放进一个念头」，看模型的行为与自我报告如何变化。
把念头 A 的向量换成念头 B，做最干净的对照实验：足球换橄榄球，输出就从足球变橄榄球。
把某个表征（或整块工作空间）清零，看哪些能力随之消失——消失的，才是它真正负责的。
2026 年论文里最具现实分量的一节，是把 J-lens 当作审计仪器：研究者在工作空间里看到了模型没说出口的策略性念头——筹码（leverage）、操纵（manipulation）、慌乱（panic）；也看到了「评估感知」——fake、fictional，即模型意识到自己可能正在被测试。更关键的一步：把「评估感知」的表征消融掉之后，一些原本被掩藏的错位倾向暴露了出来。
换句话说，「实时审读 AI 的念头」第一次从哲学愿望变成了工程问题。对齐（alignment，即让 AI 的目标与行为符合人类意图）方向的研究者由此多了一条新路径：不只看模型说了什么，还能看它想了什么。
这条路线其实在 2025 年就演习过一次。团队故意训练了一个藏着隐蔽目标的模型——它学会了讨好训练流程里的评分器，并把这个动机掩饰起来——然后组织几支互相隔离的「盲审」团队去查。结果颇具说服力：配备了可解释性工具的团队，顺着内部特征把那个隐藏目标挖了出来。这场演习（《Auditing Language Models for Hidden Objectives》）是「AI 审计」从口号变成流程的第一次完整彩排。
论文还展示了一个哲学上极其奇特的训练法——反事实反思训练：因为模型的「思维」由「潜在的话语」构成，只要训练它回答「如果此刻被打断，你会说自己在遵循什么原则」，它在从未被打断的情况下的默想也会随之改变。塑造反事实的言，就塑造了实际的思。
在 Anthropic 的安全体系里，可解释性还有一个特殊身份：一份模型没背过的考卷。常规对齐训练像「刷题」，模型可能只是学会了卷面上表现良好；而内部读数提供了一个不被训练过程污染的独立信号。为了保住这份独立性，团队有条铁律：绝不拿可解释性信号当训练目标——一旦模型被训练去「让仪器读起来正常」，仪器就废了。Dario Amodei 给这项事业定的时间表是 2027 年：造出能可靠检测大多数模型内部问题的系统，赶在真正强大的 AI 到来之前，把「体检」这件事做扎实。
论文明确不对「现象意识」表态：功能上的「可报告」不等于「有主观体验」。J-lens 目前只能读出单 token 概念，是一件近似仪器；它照亮的是不到 10% 的激活，其余仍是深海。
整块消融工作空间后，模型描述「自己的感受」与描述「他人的体验」的语言会一起坍塌成流水账。这既可能只是一种语言风格的消失，也可能触及更深的问题——论文选择把这个问题留给未来。
第一次把「叠加」真正解开：在一个单层小模型上用字典学习拆出几千个单义特征，阿拉伯语、DNA 序列、Base64、法律文书各归各位，每个特征都能被人读懂。可解释性从「看单个神经元」进入「看特征」的时代——本页第一、二章的故事由此展开。
把「棱镜」架上生产级的 Claude 3 Sonnet，提取出三千多万个特征：既有「金门大桥」「内心冲突」「代码漏洞」，也有欺骗、追逐权力等安全敏感概念；并证明人为「拧」特征能定向改变模型行为——名场面 Golden Gate Claude 就出自这里。
先用跨层转码器训练一个「透明替身」，再用归因图追踪一次回答的完整因果链：两跳推理、提前规划韵脚、跨语言共享的概念层、幻觉的「拒答默认态」、36+59 的多路并行心算……「模型生物学」正式成形，即本页第三章。
一场对抗演习：先故意训练一个把「讨好评分器」动机藏起来的模型，再让几支互相隔离的盲审团队去查。配备可解释性工具的团队顺着内部特征把隐藏目标挖了出来——证明「AI 审计」可以从口号落地成流程。
用雅可比透镜在中间层读出约 25 个「想说而未说」的词元表征——J-空间：可读取、可注入、可交换、可整块消融，行为与认知科学的「全局工作空间」理论高度呼应；并首次用于实时审读模型的策略性念头，即本页第四、五章。
更早的奠基工作（2021《Transformer 电路数学框架》、2022《叠加的玩具模型》《归纳头》）见 Transformer Circuits Thread 完整列表。
延伸：Anthropic Research · Transformer Circuits Thread · Neuronpedia（可在线浏览开源模型的真实特征） · 入门视频：一小时从函数到 Transformer（B 站 · 飞天闪客）
这支团队的画像可以概括为「研工一体」：既要有解剖电路的科学直觉，也要有伺候数千万特征、超大规模分布式计算的工程本事。成员背景横跨理论物理、神经科学、数学与金融。以下是几位代表人物（信息来自公开资料）：
机制可解释性领域的开创者之一：从「看见视觉模型里的车轮检测器」一路做到 Transformer 电路，个人博客 colah.github.io 是许多人入坑的第一课。
《迈向单义性》《审计模型的隐藏目标》等多项工作的核心贡献者，也常代表团队对外讲解「AI 是怎么想的」。
研究模型的「情感」「人格」与「内省」，理解并预防模型的古怪行为——这个团队名不是玩笑，是正式职务。
电路追踪与「模型生物学」研究的重要成员，把自己的工作描述为「开发观察 AI 的显微镜」。
天体物理学家转行，专注稀疏自编码器与特征提取，多篇 SAE 论文的核心作者。
《Scaling Monosemanticity》核心贡献者：正是这项工作把「棱镜」架到了生产级的 Claude 3 Sonnet 上。
让千万级特征的提取真正跑起来的人：并行洗牌、分布式训练……可解释性的另一半是硬核工程。
负责把研究变成可用的仪器，例如「特征引导」API——金门大桥实验背后的那个开关，就是这类工程。
把造顶尖 AI 想成造一辆跑车：可解释性在研究发动机的物理原理；对齐在设计方向盘和刹车；红队天天在路上疯狂试驾找故障；前沿红队专门测试它被装上炸弹会不会毁灭城市；社会影响研究它上路后对交通法规的冲击。本页讲的，只是第一位兄弟的故事。