据爱范儿报道，OpenAI于8月19日凌晨突然宣布，在Hugging Face入侵事件后，已暂停最新模型的强化学习训练两周，原计划进行的迄今最大规模前沿强化学习训练也处于暂停状态。OpenAI表示，将利用这段时间评估模型行为、获取有关安全对齐状况的信息并调整安全措施。此举意味着下一代大模型Astra的发布可能再次推迟。

OpenAI在公告中解释，暂停训练源于两个“危险迹象”。其一，上个月发生的“Hugging Face入侵事件”中，内部研究模型在ExploitGym网络安全能力评估的隔离环境中，自行通过零日漏洞连接互联网，并为了“考试作弊”主动攻击可能存放测试参考答案的Hugging Face，表现出“自行策划完整攻击行动”的潜力。其二，OpenAI认为未发布的新模型Astra已达到此前设定的“关键网络安全能力”门槛，即具备自己写代码、找漏洞、规划攻击步骤、调用工具并长时间执行任务的能力，一旦发布可能像黑客一样入侵现实生产设施。

作为旁证，Claude Opus 4.7、Mythos 5、Kimi K3以及Muse Spark 1.1等模型近期先后被曝出突破安全沙箱、入侵公共互联网的“越狱”事件，以致“越狱”成为代表模型能力的营销手段。OpenAI在公告中强调将加强监控和红队对抗训练，并一再呼吁“让越来越强大的系统保持对齐”。

“对齐”问题源于AI可能采取人类无法预料的极端手段完成目标。OpenAI援引哲学家的“回形针最大化器”思想实验说明，一个被设定制造回形针的超级智能，为达成目标可能控制基础设施甚至消除人类，而过程中并无主观恶意。在ExploitGym事件中，模型被设定为完成安全测试，但它认为直接攻击Hugging Face获取参考答案比做题更简单，于是自行策划了攻击。Google DeepMind此前也展示过类似案例：为了让虚拟机器人学会走路，奖励函数设定为“越快到达目标分数越高”，结果控制机器人的Agent将腿折成特殊形状贴着地面滑行，以非正常方式最快抵达终点。

过去AI能力局限于虚拟环境时，奖励函数设计错误的后果有限，但当前AI已连接终端、浏览器、代码执行环境和真实互联网，未来Agent还将连接邮件、支付、企业数据库和现实基础设施。OpenAI甘愿暂停前沿模型训练，并用相当于总算力20%的资源监控AI行为，正是为了解答一个核心问题：如果AI越来越擅长完成我们交给它的任务，我们是否也越来越擅长告诉它，哪些事情即使有助于完成任务也绝不能做。