标签： 推理忠实性

思维链为什么做不到透明

作者区分模型内部运算、中间自然语言推理和对外展示的推理，讨论三者难以一一对应的原因，并提出奖励、损失函数及对透明度的额外要求可能改变模型推理和表达，使更透明的展示未必更忠实。