据CNBC报道，美国总统特朗普周四对记者表示，他不担心人工智能会导致人类灭绝；与此同时，OpenAI和Anthropic等前沿实验室的多名研究人员公开警告AI发展过快，并出现呼吁放缓的声音。
当被问及是否担心AI带来人类灭绝风险时，特朗普说：“不，我没有任何担忧。”他补充说，自己担心的是如果美国不能在AI领域胜出，将会处于非常糟糕的境地。特朗普称，美国目前领先中国大约一年，这被认为是很大的优势。CNBC称，美中正陷入AI主导权之争，随着中国AI模型变得更先进并在全球被更广泛采用，紧张关系正在加剧。
特朗普表态之前，前沿AI实验室的员工已经发出警告。Anthropic研究员雅各布·考克森周二表示，他因担心Anthropic和竞争对手OpenAI“拿我们的生命赌博”而辞职。他还说，构建AI的人认为AI可能“在这个十年结束前杀死我们所有人”，这一看法得到实验室其他员工的呼应。
许多AI安全担忧围绕递归自我改进（RSI）。OpenAI负责对齐的研究员贾斯敏·王周三晚间说：“很难夸大加速迈向RSI有多危险。”OpenAI首席科学家雅库布·帕乔基周六说，他“强烈预期”AI的进展速度可能延续到递归自我改进，并表示：“我担心没有人对机器智能持续快速上升的后果做好准备。”
特朗普表态之际，一些共和党议员加入民主党人，支持对先进AI系统加强监督。7月，加州共和党众议员杰伊·奥伯诺尔特和马萨诸塞州民主党众议员洛里·特拉汉宣布计划提出名为FRONTIER Act的法案，目标是建立治理先进AI模型部署的框架。特拉汉周三在X上写道：“安全研究人员正在辞职，强大的AI模型正在冲出实验室，公司却仍在竞相前进。”“国会是时候不再旁观，履行其职责了。”
本月早些时候，佛蒙特州独立参议员伯尼·桑德斯和得克萨斯州民主党众议员格雷格·卡萨尔提出《禁止人工超级智能法案》。该法案将暂时暂停先进AI开发，直到联邦政府建立安全规则。