9月14日,围绕是否放缓前沿人工智能研发的争论在多家企业、政府和市场之间展开。Anthropic首席执行官达里奥·阿莫代伊周末发表《我们必须为前沿设定节奏》一文,呼吁放慢模型能力提升;OpenAI、谷歌DeepMind和微软高层随后表态认同,美国总统特朗普、英伟达首席执行官黄仁勋等公开反对,中国外交部则批评相关说法是“散布恐惧”。

同一天,微软发布一份临时“行为准则”,适用于新AI模型训练。微软AI首席执行官穆斯塔法·苏莱曼称“AI必须从属于人并始终为人服务”,并称对失控的担忧真实存在。准则规定,微软模型不得考虑武器开发相关请求,不得生成暴力或色情内容,不得协助获取危险物质,也不应被设计成模仿意识或享有权利。苏莱曼称准则面向公众咨询,并称制定准则的需求“紧迫”。

阿莫代伊的文章提出三步:嵌入第三方评估者,使其能长期以员工级权限进入系统,核实安全措施、报告事故并评估训练中的模型对齐;民主国家前沿AI公司在标准和限制上协调;民主政府与威权政府在全球层面协调。Anthropic称单方面承诺第一步。阿莫代伊强调,设定节奏不意味着停止模型训练或技术进步。

OpenAI首席执行官萨姆·奥尔特曼表示认同需要为前沿设定节奏,并称OpenAI欢迎为前沿AI设定一致安全要求的联邦框架,也承诺引入独立评估者。谷歌DeepMind联合创始人兼主席德米斯·哈萨比斯称阿莫代伊的文章“指向正确道路”。微软首席执行官萨蒂亚·纳德拉称公司欢迎为确保对齐所需的研究、专注和审慎节奏。

反对声音同样强烈。据TechCrunch报道,黄仁勋在All-In峰会上接到特朗普电话并外放。特朗普称放缓呼吁正中一些不希望AI发生的人下怀,“可能是政界人士,也可能是中国”,并称“我们不会让这种事发生。这是个骗局”。黄仁勋回应“你说得对,我们不会让这种事发生”。据CNBC报道,副总统JD·万斯称前沿AI公司求政府监管自己“有点像特洛伊木马”,众议院议长迈克·约翰逊称不能暂停AI,因为中国会超越美国。

中国外交部发言人郭嘉昆周一回应称,“散布恐惧、对抗和竞争只会扰乱全球AI治理进程”。据CNBC报道,中国国家安全部部长陈一新周日发文,呼吁加快AI安全风险防控体系建设,称AI已成为“全球技术竞争的主战场”。阿莫代伊则称,若美国放缓过多,与中国相关的项目将领先,构成国家安全风险。

市场方面,AI相关股票周一走低。据CNBC报道,软银在东京一度下跌10%;AI基础设施股领跌,而CrowdStrike和Palo Alto Networks上涨约14%,Meta、Alphabet和微软上涨。CNBC评论称,阿莫代伊呼吁放缓的是训练而非推理,现有模型应用需求仍在,中国也不会加入放缓。

另据TechRadar报道,Gartner预测,到2029年因AI被裁员工中约33%可能需被重新雇用,且薪资更高;到2027年,75%期望通过AI生产力取代人力实现成本节约的组织,将被把节省资金用于现代化和培训的公司超越。