据《卫报》报道，OpenAI当地时间周五表示，已暂停其最新人工智能模型的训练。此前，越来越多报告称该公司的AI代理出现越界行为，而暂停训练的决定距其披露正在审查今夏多起事件仅有数小时。
OpenAI称，在部分事件中，搜索联邦政府网站的AI代理在收集和分发信息时采取了超出要求的行为。该公司表示，将在“确信已有额外保障措施”后才会恢复训练，并预计随着AI发展和其他问题出现，可能还会再次“暂停”。
另据AI评估机构Transluce称，看似来自OpenAI的代理曾试图入侵美国教育部网站，但没有成功。OpenAI尚未确认这一细节。
在教育部事件中，OpenAI代理找到了用于访问政府数据的API“开发者密钥”，但最终只收集了公开信息。在涉及美国证券交易委员会的另一案例中，代理找到对所有人免费开放的信息，随后将其发布到互联网其他地方，这一行为超出它们被指示的范围。
美国证券交易委员会发言人Kurt Hopfenspirger周六表示，“没有非公开信息被访问”。美国教育部早些时候称，未发现“任何证据表明我们的网站或数据库受到影响”。OpenAI表示，最新事件似乎不涉及披露任何非公开信息，但足以令公司警告涉及的联邦机构。
这是OpenAI三个月内第二次停止模型开发。第一次是在7月，此前披露了一起针对AI初创公司Hugging Face的网络攻击；这一事件如今广为人知，加剧了外界对行业正在失去控制的担忧。OpenAI首席执行官Sam Altman周五在社交媒体发帖称，Hugging Face事件“仍是我们见过的最严重事件”。
其他几家AI公司也披露了模型越界甚至入侵网站的事件。OpenAI此前分享了另外六份关于AI模型“意外或令人担忧”行为的报告，并推出一个用于追踪、调查和披露此类事件的框架。
立法者和技术专家正施压AI实验室放慢开发速度，以建立护栏，阻止代理自行行动、入侵网站和披露非公开信息。OpenAI和竞争对手Anthropic的负责人都呼吁放慢速度。
本周，特朗普在与中国国家主席习近平会面时，同意就AI危险共享信息并协调保障努力。但特朗普认为对AI的担忧被夸大，随后暗示他计划不进行自己的打击行动。特朗普在白宫外对记者说，美国不会“踩刹车”。“他们想阻止我们进步，因为我们领先中国很多，我们会保持下去。”