标签： 安全策略

思维链为什么不可能真正透明

本文回应纳德拉关于模型思维链透明的主张，认为真正透明与人类要求表达能够被理解、被接受之间存在难以调和的矛盾。作者通过思想实验与安保类比，论证公开中间推理可能带来道德评价压力，改变模型的推理和表达，并增加安全机制被试探的风险。