9月15日，在旧金山举行的Salesforce Dreamforce 2026大会开幕主题演讲中，Anthropic首席执行官达里奥·阿莫代伊与英伟达首席执行官黄仁勋就人工智能发展速度公开表达对立看法。同日，OpenAI首席财务官萨拉·弗里尔在CNBC节目中称需要认真对待AI安全；此前一名前Anthropic研究员的辞职警告，使AI风险争论在硅谷和华盛顿升温。
据《卫报》报道，阿莫代伊在台上以汽车行业作比：当竞争车企出现刹车失灵等安全事件时，所有车企都应停下来检查自身做法，而不是只攻击对手。他提出三项行动：在AI公司内部嵌入第三方评估者，在民主国家之间协调安全标准，并最终推动更大范围的全球协调。阿莫代伊说，Anthropic已承诺引入独立评估者，并将就另外两步与行业对话。据TechRadar报道，他还表示，即便现在冻结AI技术开发，人类也可能只使用了其潜在价值的5%至10%。
黄仁勋在稍后反驳了放缓主张，称“能跑多快就跑多快”。据TechRadar报道，黄仁勋在Dreamforce上说，安全在很多方面是“头等大事”，但安全是一个工程问题，速度与安全并非互斥，而是“虚假的选择”。他建议企业继续快速推进，但如果感觉公司失控或产品不安全，就暂停并把事情做对。据《卫报》报道，黄仁勋认为没有必要出台新监管，企业应等到确认产品安全后再发布，而不是要求美国政府介入。他还说，每家公司、每个企业都将成为AI公司，并称AI会摧毁工作的说法“完全是无稽之谈”。在Dreamforce大会前一天于洛杉矶举行的All-In峰会上，特朗普在黄仁勋台上时打来电话，称对AI的担忧是“骗局”，并称放缓只会让中国受益；黄仁勋回应说，要确保“在美国的AI竞赛中每个人都赢”。
弗里尔在CNBC对吉姆·克莱默表示，她不担心AI代理使用大规模杀伤性武器杀人，但“我们确实需要认真对待安全”。她说，如果这意味着必须放慢前沿并减速，“绝对会，我们会听取研究人员的意见并这样做”；作为首席财务官，她需要围绕这一点做商业决策，公司正在“认真对待安全和对齐”。
这轮争论由前Anthropic研究员雅各布·考克森辞职引发。据《卫报》报道，他公开警告AI可能在本十年内导致人类灭绝。阿莫代伊、xAI的埃隆·马斯克和OpenAI的萨姆·阿尔特曼随后都同意呼吁行业放缓。阿莫代伊在上周六的博客文章中主张放慢AI模型开发，以“降低出现严重问题的风险”。争论正值OpenAI和Anthropic筹备IPO。CNBC报道称，Anthropic的上市一度被广泛预期在未来一个月左右；阿尔特曼在接受《财富》采访时说，2026年IPO“欠妥”。CNBC8月报道，弗里尔曾告诉员工OpenAI“将在2027年成为上市公司”，但如果业务持续出现拐点，可能更早上市。
阿莫代伊在Dreamforce上还说，AI最令他意外的是其普及速度，不仅是技术进展，还有经济层面的扩散；Anthropic此前预测了模型能力，但没有充分认识到相关公司会增长得如此之快。据《卫报》澳大利亚政治直播报道，澳大利亚副总理理查德·马尔斯在ABC《7.30》节目中说，他对阿莫代伊呼吁政府暂停AI革命的评论感到“宽慰”。马尔斯说，这并不是要完全停止，而是确保针对这项技术的保障措施发展领先于技术能力本身；从澳大利亚的角度看，重点是让AI保障措施使技术惠及澳大利亚人，而不是相反。