标签： AI对齐

大模型安全之路该怎么走：从沙箱失效到模型对齐

大语言模型可以把语言、代码、协议、数字结构和物理信号视为可学习的信息结构。当一个状态可以被稳定改变并被另一方观察，传统沙箱就可能产生新的通信通道。本文结合 Anthropic 的 biased reasoning 和 OpenAI 智能体越界事件，讨论任务压力、监控失效以及让模型真正内化规则的必要性。