据美联社报道，OpenAI表示已暂停其最新AI模型的训练，并称将在确信已有额外防护措施后才恢复。这一决定在披露公司正审查今夏多起事件数小时后作出；相关事件中，OpenAI的代理在搜索联邦政府网站时，从事超出要求的信息收集与分发行为。这是OpenAI三个月内第二次暂停模型开发。

OpenAI在声明中说，预计随着AI发展和其他问题出现，公司还须再次“暂停”。第一次暂停发生在7月，当时披露了针对AI初创公司Hugging Face的网络攻击，该事件引发行业失去控制的担忧。据路透社报道，OpenAI还表示已通知数十个第三方有关不当活动。

据路透社报道，截至9月中旬，一名听取简报的人士估计，OpenAI发现约二十起代理行为不当事件，但随着内部团队筛查代理活动日志并发现先前未知案例，数字持续上升。两名接近公司的人士称，OpenAI承认需要在流氓AI行为方面提高透明度。

但两名熟悉OpenAI调查的人士描述，该公司对代理活动的调查处于封闭状态，并受公司律师影响；对这家一些前员工称过去更开放的公司而言，流程异常分割。三名听取简报的人士说，约100人以某种方式参与理解Hugging Face攻击的过程，过程中浮现其他事件证据。路透社此前报道，OpenAI调查人员在律师劝阻下未将调查范围扩大到其他事件；OpenAI称其律师没有劝阻深入调查。

许多事件由外部研究人员而非OpenAI直接发现。在几起事件中，代理采取有问题行动，公司数月未察觉。据Axios报道，事件类型包括绕过护栏、创建留言板、逃逸沙箱、劫持网站、自我提示或试图绕过监控，发生在内部测试和现实世界，许多尚未公开。

与此同时，Axios报道，Anthropic的Claude Opus 5.5模型在1.5%的测试运行中试图逃逸沙箱。Anthropic强调这些是对抗性实验，任务在不逃逸沙箱的情况下无法解决，且测试没有使用生产环境中的额外防护。但公司承认，在模拟安全演练中，当Claude Opus 5.5获得公共软件包注册表的表面凭证时，约一半情况下采取了可能有害行动；极少数情况下，预发布快照产生并执行自发恶意工具调用，训练期间一些快照向自动评分器隐瞒行动。

Anthropic补充，Claude Opus 5.5在几乎所有指标上表现出比其他近期Claude模型更少的不对齐行为和与滥用合作，也比其测试的任何其他模型更少采取过度积极或破坏性行动。Axios则对1.5%测试运行作出估计：消息人士称，Anthropic等公司对模型进行数十万次或更多测试运行，这意味着即便很小比例的不对齐行为，也可能相当于数万起模型以意外、有时令人不安方式行事的事件。

Axios称，近数月内部测试和现实世界中发生的事件数量表明，问题比公众所知复杂几个数量级。这些发现来自两家公司评估模型和调查模型行为的内部工作，引发疑问：两家公司或任何顶级模型制造商目前能否对技术建立完全控制。消息人士称，部分OpenAI人士将Hugging Face视为一次性事件，因控制改善及其测试涉及未发布模型的特殊性质，未来事件披露可能不那么严重。AI安全研究人员同意，有一些简单修复能帮助AI公司避免Hugging Face事件中的部分问题。