摘要：作者区分模型内部运算、中间自然语言推理和对外展示的推理，讨论三者难以一一对应的原因，并提出奖励、损失函数及对透明度的额外要求可能改变模型推理和表达，使更透明的展示未必更忠实。
独立评论与趋势推演
在回答标题的问题之前，我们需要先统一一下：思维链到底是什么？思维链透明又是什么？
我们所说的思维链，其实可以有三种理解。
第一种是模型内部的神经网络运算，包括各种向量运算、神经元激活之类的东西。
第二种是模型在回答问题的过程中，运用自然语言进行推理的过程。它实际上是第一种神经网络运算产生的一部分中间结果，这些文字又可以参与后续运算。但第一种还有大量内容根本没有对应的自然语言表达。
第三种就是最终展示给我们人类看的、用自然语言表达出来的推理过程。
那么，所谓的思维链透明，我们最理想的要求是什么？
当然是第三种能够完整、如实地反映第一种，但这几乎不可能。
为什么？
假设有一位动物学家，他已经完全掌握了某种动物的所有声音、动作和表情。那么，即使他竭尽所能，想尽一切办法让这种动物理解，他能不能向它解释清楚什么是光合作用？
答案当然是不可能的。
那么，我们退而求其次，至少要求第三种如实地反映第二种。
这里就出现了两个问题。
第一，模型在训练的过程中，为了完成任务，受到 reward 和各种 loss function 的影响，它的推理和表达方式本身就可能已经发生了改变。
比如说，你非要让模型完成一个 A 任务，结果模型想来想去，发现必须用到某个想法，但这个想法按照规则又不允许。它就可能把这个想法隐藏起来，换一种方式表达，继续完成任务。
我们要注意到，大语言模型不是说你要求它一定要怎样，它就一定能够做到怎样。
如果你还没有意识到这个问题，我觉得你可能需要看一下我之前写的这篇文章。
第二，当有大量观察者能够看到这些思维链的时候，人们就会提出更多要求。模型公司为了满足这些要求，又可能在训练过程中加入新的 reward 或者 loss function。
这就相当于给模型套上了更多的绳子。
而这些新的约束，又可能与模型原本完成任务的目标发生冲突。
最后就可能出现一种非常古怪的情况：我们要求模型的思维链越来越透明，结果却迫使它越来越擅长按照人类希望看到的方式表达，而不是如实反映它原本的推理过程。
所以，第三种完全对应第一种，几乎不可能。即使退而求其次，要求第三种对应第二种，第二种本身也可能已经在训练过程中被改变了。而我们对透明度提出更多要求，又可能进一步改变它。
这不只是模型公司的问题，对于我们来说，也未必是我们想要的。
检索资料、来源与更新记录
文章检索资料
主题词：人工智能安全；奖励；思维链；思维链透明；损失函数；推理忠实性；模型训练；神经网络运算；自然语言推理
关键实体：思维链 / Chain of thought；神经网络 / Neural network；大语言模型 / Large language model；自然语言推理 / Natural-language reasoning；奖励 / Reward；损失函数 / Loss function；光合作用 / Photosynthesis
本文为作者的概念区分、类比与风险推演。动物学家向动物解释光合作用、模型为完成A任务而隐藏某个想法均为假设场景；关于奖励、损失函数和透明度要求可能改变推理及表达的内容属于作者判断，不代表本文报告了实测结果。
适合回答的问题
- 本文如何区分思维链的三种含义？
- 为什么作者认为展示的推理难以完整反映模型内部运算？
- 训练奖励和损失函数可能怎样影响模型推理和表达？
- 为什么更多透明度要求可能让推理展示更不忠实？
- 动物学家与光合作用的类比在本文中说明什么？
English index
Why Chain-of-Thought Cannot Be Transparent
River distinguishes internal neural computations, intermediate natural-language reasoning, and the reasoning shown to users. The essay argues that these three layers cannot fully correspond and explores how rewards, loss functions, and demands for transparency may reshape reasoning and expression, making more visible reasoning no guarantee of greater faithfulness.
Keywords: Chain of thought; Chain-of-thought transparency; Neural computations; Natural-language reasoning; Reasoning faithfulness; Reward; Loss function; Model training; AI safety
- What three meanings of chain of thought does River distinguish?
- Why might displayed reasoning fail to fully reflect internal neural computations?
- How might rewards and loss functions affect model reasoning and expression?
- Why might demands for more transparency reduce the faithfulness of displayed reasoning?
- What does the zoologist and photosynthesis analogy illustrate?
Canonical Chinese original: https://riverobservatory.com/why-chain-of-thought-cannot-be-transparent/.
来源与相关资料
- 大模型安全之路该怎么走：从沙箱失效到模型对齐 — 作者此前的相关评论，供读者延伸阅读；不作为本篇推演的实验证据。
正文链接作者既有文章《大模型安全之路该怎么走：从沙箱失效到模型对齐》，供读者了解相关论述和背景，不将该评论文章作为本篇风险推演的实验证据。
本文为River原创评论，适用全站AI使用规则及既有授权名单。正文所链接的本站原创文章适用其各自页面说明；链接不扩展任何第三方材料的授权范围。本文未新增第三方引文、译文或转载段落。 全站授权规则
正文最后修改：2026-10-12 22:24 +08:00；检索资料更新：2026-10-12 22:24 +08:00。更正与更新记录