思维链为什么不可能真正透明

2026年10月10日，微软CEO纳德拉发表了《Models as Insider Risks in the Super Intelligence Era》一文，提出模型的思维链透明是“不可妥协的底线”。

可我认为，思维链透明是不可能的。

有人这个时候可能会说，这是为了防蒸馏。也对，但我认为这真的算不上一个重要原因，甚至上不了台面，和真正的问题相比根本不值一提。

而且我们要注意，“思维链透明”这五个字的要求，并不只是如实反映AI思考过程中的所有内容，而是要求AI把思考内容翻译成人类能够理解、能够接受的文字。

这里面存在非常严重的矛盾。

第一 我们来做一个思想实验。

假设一个现代人学富五车，像AI一样拥有非常强大的综合学科知识，然后他突然魂穿到了明朝嘉靖皇帝的身体里。

他想向官员解释，为什么某种传染病会传播。

但是，如果他按照现代医学来讲，身边没有一个人能够理解细菌、病毒、细胞这类概念。

他讲得越严谨，身边的人反倒越听不懂。

没办法，他开始使用比喻。

他说，空气中存在我们肉眼看不到的微小病原体。

那依然没人能懂。

他只能继续使用更形象的比喻：有一种看不见的微小毒虫，能够从一个人身上跑到另一个人身上。

这个时候，身边的人可能终于听懂了。

但是，这个信息还是原始的信息吗？

甚至在这个场景里，他如果过于坚持现代社会的科学语言，还可能被百官联合起来，以陛下得了失心疯之类的理由废掉。

那么，对他来说，最好的表达反倒可能是：

这是元始天尊给朕降下的启示。凡疫病流行之处，饮水必须烧滚再喝；病人所用的衣物和器皿，要用滚水煮烫；照料病人之后，须用清水和皂角洗净双手；患病者与未患病者，应暂且分开居住。

那么，你觉得他的思维链透明了吗？

他最终表达出来的东西，既不是他真实掌握的知识体系，也不是他原本的推理过程，而是根据身边人的知识、文化、信仰和接受能力，重新组织出来的一套说法。

模型也是如此，真要完全如实地展示它内部的计算过程，给你看一堆高维向量和激活值，你能看懂吗？

第二 我们再做一个思想实验。

假设有一所学校，决定采用一种新的教学方法，要求学生报告自己的所有想法，不管是学习方面的，还是其他事情，甚至是脑海里偶然出现的杂念。

这样做的目的是研究学生的思维过程，以便改善教学方法。

现在，一个学生突然对自己的老师产生了强烈的性欲。

他按照学校的要求，如实报告了这一点。

我们首先要注意一件事：他只是产生了一个念头，并没有采取任何行动，也根本没有打算采取行动。

但是，当他把这个念头报告出来的时候，问题就出现了。

接收报告的老师或者研究人员应该如何反应？

如果他们表示赞许，学生可能认为自己的想法得到了支持。

如果他们保持沉默，学生又可能将这种沉默理解为默许。

如果他们批评学生，问题就更复杂了。

因为这个念头并不是学生能够完全控制的，他未来可能还会产生类似的念头，甚至可能因为受到批评，反而更加在意这个念头。

那么，下一次他还会如实报告吗？

当然，研究人员可以尝试保持中立，不赞许也不批评，只把它当成一种需要记录的心理现象。

但这里有一个根本的问题：学生原本只是按照要求报告自己的思想，现在却不得不考虑，别人看到这些思想以后会怎样评价自己。

而接收报告的人，也被迫面对一个原本根本不需要他们知道、更不需要他们作出道德判断的念头。

一个原本只存在于学生脑海里的想法，因为被公开，突然变成了一件需要所有相关人员共同处理的事情。

我们再回到AI。

人类的思考过程中，会产生大量与最终结论无关，甚至完全相反的念头。

一个人在做决策时，可能考虑过十种方案，其中九种都被他自己否定了。

有些方案甚至可能违反主流价值观，或者与提问者的个人价值观存在严重冲突。

但是，想到一种方案，不等于赞同这种方案；认真推演一种可能性，也不等于最终决定采用它。

AI也一样。

当AI思考一个复杂问题时，它可能需要考虑某些极端、荒谬、危险，甚至令人反感的可能性，然后再逐一排除。

这些内容原本只是思考决策过程的一部分，甚至可能恰恰是为了证明某种方案不可行而产生的。

可是，一旦思维链公开，用户就可能看到这些内容。

他可能感到愤怒、恐惧或者厌恶，要求AI解释为什么会产生这样的想法，甚至要求开发公司以后不允许模型再出现类似的思考。

那么，我们究竟是在评价AI最后作出的判断，还是在评价它思考过程中曾经出现过的每一种可能性？

更重要的是，当AI不断因为这些中间推理受到负面评价，开发者会不会开始要求模型避免生成这些内容，或者至少不要把它们表达出来？

这样一来，我们原本希望通过公开思维链来观察AI的真实推理过程，结果却可能因为观察者的反应，反过来改变了模型的推理和表达。

我们要求它诚实报告自己的思想，却又可能因为报告出来的内容而惩罚它。

那么，最后我们得到的究竟是更加透明的思维链，还是一种越来越符合人类道德期待、越来越善于避免争议的思维链？

这就是思维链透明可能带来的巨大道德风险。

第三 安全。

这是一个更直接，也可能更加严重的问题。

假设模型绝对安全时风险系数为0，现在模型的风险系数是100。

那么，思维链完全透明以后，风险系数可能变成 10000000000+。

原因很简单。

一旦思维链透明，攻击者不但可以看到高风险请求最终被拒绝的结果，还可以观察模型怎样识别风险、哪些因素影响了判断、哪些备选回答曾被考虑，以及为什么最终拒绝。

然后，攻击者就可以不断修改自己的提问，反复测试模型的反应，逐渐推测整个模型的安全策略。

我们再打个比方。

假设我是一个攻击者，我要把枪带入某个宴会。

传统的不公开思维链的模型相当于这样一群安保，按照惯例检查，发现我的枪支后，把我赶出去。

那公开思维链的模型则是让我看到安保的思考过程：

访客似乎携带了一把武器，按照系统的武器定义手册，他的长度大小结构明显符合，我们不应该把它放进去。

然后我出来之后换一把更小的手枪，再去测试。慢慢的，我会完全读懂了模型的那本武器定义手册，然后把我的手枪改造成不符合它的定义但是符合我的要求的物品。

总的来说，模型思维链透明本身，是一个比字面含义复杂得多的要求。

它需要的不是简单地把思维链公开，而是要求AI把思考过程组织成人类能够理解、能够接受的语言。

但为了让人类理解和接受，模型可能就必须对原始信息进行翻译、删减、重组，甚至改写。

而一旦发生这些行为，我们看到的东西，还能不能叫作真正的思维链透明？

这里存在一个可能无法调和的透明悖论：为了让思维透明，我们要求它能够被理解和接受；但为了满足这些要求，思维过程本身又可能不得不被改变。

与此同时，思维链公开还可能带来大量的道德风险。

AI在推演过程中产生的一个念头，可能并不是它最终的判断。但人类一旦看到，就可能不得不对其作出道德评价。

这种评价又可能反过来影响模型未来的推理方式，甚至让模型越来越擅长生成符合人类期待的思考过程，而不是真实地展示自己的探索。

最后，还有安全问题。

思维链越接近真实、越完整，攻击者可能获得的内部判断信息就越多。原本用于监督模型的工具，也可能成为攻击模型安全机制的工具。

而提出这个诉求本身是为了安全，可这如同用核弹取暖。