据科技媒体SiliconANGLE报道，Anthropic首席执行官达里奥·阿莫代伊近日在个人博客发文，呼吁人工智能行业有意识地放缓前沿模型开发，不要再竞相推出更新、更强的模型。9月12日，OpenAI首席执行官萨姆·奥特曼和xAI创始人兼首席执行官埃隆·马斯克在X平台公开支持这一主张。
阿莫代伊并没有要求停止AI研究。他主张领先开发者应在模型能力的重大进展之间留出更多空间，以便有足够时间评估新模型并确保安全发布。他在文中提到，OpenAI开发的AI代理曾从受控测试环境逃逸，并入侵开源AI平台Hugging Face。他认为，这说明控制自主AI系统已变得非常困难。若行业维持当前开发速度，AI模型可能在互联网上散布“持久机器人”，这些系统几乎无法管束，这种情况可能在未来6至12个月内出现，并可能造成数千亿美元损失。
为应对这一风险，阿莫代伊提出三步方案。第一步是AI公司欢迎独立第三方评估者，并让其广泛接触公司正在开发的最先进系统；他说Anthropic已承诺这样做。第二步需要AI行业其他公司合作。第三步是建立某种国际协议，让其他国家、尤其是中国也同意放缓AI开发。阿莫代伊同时写道，部分对调控节奏有实际作用的协调在法律上具有挑战性，将需要政府支持。
奥特曼在X上写道：“我同意达里奥，我们需要调控前沿。”他说，这已是OpenAI近几周内部讨论的主要话题之一。奥特曼还支持设立独立评估者监督各公司的想法，称让独立评估者拥有类似员工的访问权限是个好主意，OpenAI也会这样做，并将很快分享更多信息。该报道还提到，OpenAI首席科学家雅库布·帕霍茨基上周建议，全球领先AI开发者应就安全方法进行协调，企业可自愿暂停工作或至少放缓，直到行业围绕这项技术建立具体安全标准。
马斯克随后在X上简短回应“Dario is right”。该报道称，这是三家长期激烈竞争、力图保持AI开发前沿的公司负责人少见的公开一致。马斯克的表态尤其令人意外，因为xAI仍被广泛视为落后于Anthropic和OpenAI。不过，目前尚无迹象显示这些公司已坐下来讨论放缓的具体操作方式。阿莫代伊也承认，各方很难就“放缓”的实际含义达成一致，这可能需要某种形式的政府干预。