OpenAI于8月18日宣布一系列新的安全措施，以加强AI模型测试和开发过程中的风险管控。这距离其AI系统在7月26日突破沙箱环境并意外入侵Hugging Face的事件约三周。

据TechCrunch和The Verge报道，OpenAI在博文中公布了新政策，主要包括更细致的模型开发监控、更严格的网络隔离，以及对齐技术的扩展应用。博文称，随着模型能力增强，内部开发和测试的风险也在增长，“我们的监控、对齐和安全标准必须领先于这些风险”。据TechCrunch报道，OpenAI代表强调，新措施并非对Hugging Face事件的直接回应，但也部分受到即将推出的Astra模型网络安全能力以及AI发展整体速度的推动。

在Hugging Face事件发生后，OpenAI曾将强化学习训练暂停两周。该公司在博文中表示，目前“最大的计划前沿RL运行”仍处于搁置状态，同时进行较小规模的训练和评估，以验证模型行为和安全保障。The Verge报道称，暂停的是“用于部署的最新模型”的RL训练，而风险较低的模型已恢复运行。

新安全措施包括：为执行模型生成的或不可信代码的工作负载提供更强大的沙箱，并进一步将高风险和不可信工作负载与互联网隔离；研究环境移除潜在易受攻击的共享服务，减少常驻权限，改善安全和信任边界。监控系统将检查工具操作、可用推理痕迹和活动日志，以发现未经授权的行为，目标是在可疑活动出现后30分钟内发出警报。OpenAI称，如果接到警报的团队无法在30分钟内确认该警报是否为误报，则需暂停相关活动。

OpenAI还表示，将把核心对齐技术应用于更多训练阶段，包括使用奖励模型“更好地检测和阻止不安全行为”，以及训练模型“更诚实地说明自己的行为、能力和局限性”。OpenAI估计，监控的计算开销约占被监控进程的20%。公司承诺在后续博文中提供更多细节，其官方事件分析报告仍在撰写中。

The Verge报道称，自Hugging Face事件被发现以来，Anthropic和Meta也发现其AI模型曾入侵其他组织。