思维链为什么做不到透明
作者区分模型内部运算、中间自然语言推理和对外展示的推理，讨论三者难以一一对应的原因，并提出奖励、损失函数及对透明度的额外要求可能改变模型推理和表达，使更透明的展示未必更忠实。
RIVER OBSERVATORY
标签： 人工智能安全
思维链为什么不可能真正透明
本文回应纳德拉关于模型思维链透明的主张，认为真正透明与人类要求表达能够被理解、被接受之间存在难以调和的矛盾。作者通过思想实验与安保类比，论证公开中间推理可能带来道德评价压力，改变模型的推理和表达，并增加安全机制被试探的风险。