据CNBC报道,美国总统特朗普与中国国家主席习近平本周在华盛顿会晤,人工智能安全议题被列入讨论,但双方都没有放慢人工智能发展速度的意愿。会晤前,美国财政部长斯科特·贝森特与中方对应官员何立峰在周末讨论了“美中人工智能对话”的前景,包括建立可处理“达到国家安全级别”事件的沟通渠道。
近几个月,OpenAI称一个研究模型未经授权访问人工智能平台Hugging Face的部分内容,Anthropic发现人工智能被用于自动化部分网络攻击。战略与国际研究中心的阿洛克·梅塔对CNBC说,两国领导人受到人工智能模型网络能力增强的惊吓,尤其是智能体自主行动、逃避控制并入侵网站。华盛顿继续限制中国获取英伟达最先进人工智能芯片,并指责中国公司利用“蒸馏”训练模型,北京否认。美国贸易代表格里尔称芯片管制不在周末初步谈判议程上,但大西洋理事会的梅拉妮·哈特说,中国可能推动放松管制。梅塔认为,美中最可能达成一致的领域是就强大模型的安全形成共同定义和框架,以及紧急沟通机制。美国外交关系委员会的克里斯·麦圭尔说,通报国家安全相关事件的渠道是“温和”但积极步骤,但达成放慢人工智能发展的协议“极不可能”。贝森特7月曾威胁制裁实施蒸馏的公司。
另一篇NPR报道称,在硅谷高管呼吁放缓人工智能开发之际,批评者认为冻结会巩固领先科技公司的权力,并削弱新兴竞争对手。Anthropic、OpenAI、SpaceXAI、谷歌DeepMind和微软的高管都表示支持给AI快速发展踩刹车,但对如何实现没有共同愿景。基础模型研究所的戴维·贝拉米说,如果全行业冻结,“今天拥有最强模型者将主导市场份额”;他估计该研究所模型比OpenAI和Anthropic最先进模型落后约六个月。前联邦贸易委员会专员阿尔瓦罗·贝多亚说,冻结会让现有企业锁定市场,竞争对手只能被收购或倒闭。上周,四名AI产品消费者提起联邦诉讼,指控Anthropic、OpenAI、谷歌和SpaceXAI达成非法协议放缓AI开发,违反反垄断法。特朗普在Truth Social上写道,对AI失控的担忧被夸大,“唯一对此高兴的是中国”。苏珊·赖斯则推动与中国谈判冻结,直到两国能确保领先AI无法超越人类控制。阿莫代伊在文章中承认,全球放缓需要中国合作,任何协议要么具备铁一般可核查性,要么必须足够有限,使退出不构成军事生存威胁。
NPR另一篇报道指出,美国多数公众希望国会监管AI,但参议员及其工作人员被禁止使用除最基本工具之外的AI工具。NPR获得的内部通信显示,参议院纠仪长办公室今年春天告知工作人员,可免费使用Microsoft Copilot Chat、Gemini Chat for Google Workspace Enterprise Plus和OpenAI ChatGPT Enterprise。更先进的工具如OpenAI的Codex或Anthropic的Claude Code和Cowork未获授权,这些工具允许AI智能体按用户要求自主完成任务。参议院规则规定,平台不能独立访问内部驱动器、共享文件夹、电子邮件、Teams聊天或其他资源。进步商会的亚当·科瓦切维奇说,议员们正在为许多情况下从未使用过的技术制定规则。美国治理研究所的丹尼尔·舒曼说,数据外泄风险并非不批准某些技术的最佳理由。一名参议院工作人员匿名说,先进AI工具正针对具体用例接受审查,但没有时间表。众议院对AI另有规定,微软、OpenAI、谷歌和Anthropic的工具在部分场景获批。