Anthropic首席执行官达里奥·阿莫代伊9月12日发表文章,呼吁人工智能公司放缓最先进模型的研发,并在9月13日接受CBS采访时称,这一设想“最艰难的困境”是如果以中国为代表的对手国家不跟进。此前,Anthropic研究员雅各布·考克森辞职,称Anthropic和OpenAI正在“拿我们的生命赌博”。AI安全争论由此在华盛顿升温。
据CNBC报道,阿莫代伊提出三步方案:让第三方评估者以员工级权限进入公司核查安全实践并报告事件,Anthropic已“单方面”承诺;推动民主国家内领先AI公司协调并建立共同安全标准;推动民主政府与威权政府协调。他说,长期方案是合作给AI进展设限,但因领先激励和军事优势巨大,非常困难,“我不知道是否可能,但应该尝试”。
OpenAI首席执行官萨姆·奥尔特曼周六在X上表示,认同需要“为前沿设定节奏”,并称OpenAI也将让独立评估者拥有类似员工权限。他告诉《财富》,公司今年可能不会上市,部分原因是安全担忧。Google DeepMind主席德米斯·哈萨比斯称文章指向正确路径;埃隆·马斯克称竞争者开展AI同行评审是正确起点。
华盛顿方面,亚利桑那州民主党参议员鲁本·加列戈在CNN称,“弗兰肯斯坦博士告诉我们怪物正在逃走”,现有应对方式没有跟上时刻。宾州州长乔什·夏皮罗称行业领袖评论是“闪红灯”,总统和国会应立即行动监管AI。加州民主党众议员萨姆·利卡多等民主党人致信众议院议长迈克·约翰逊,要求国会留在会期直至通过两党AI保障措施。约翰逊称,若国会紧急开会监管AI,美国将输给中国,不需要恐慌,应负责任处理且不扼杀创新。
众议院民主党领袖哈基姆·杰弗里斯称,民主党周二开会讨论AI护栏,应采取果断行动放缓开发速度。特朗普在爱尔兰对记者称,很多“负面力量”提出AI担忧,但这些担忧“不会发生”,他主要关心美国保持行业领先,“谁赢得AI谁就赢得一切”。据《卫报》和TechCrunch报道,奥巴马在曼哈顿闭门筹款活动上敦促民主党把AI列为“核心议程”,制定清晰安全计划并公开对话;他称AI在私人手中发展很快,若不能掌控可能危险,若掌控则有益。
据SiliconANGLE报道,量子计算对现有加密的威胁也在逼近。“Q-Day”指量子计算机开始破解互联网加密之时。谷歌3月将自身后量子密码迁移期限设为2029年,早于美国国家安全局2031年和NIST 2035年指南,原因是量子硬件和纠错进展快于预期。同月,加州理工学院、加州大学伯克利分校和Oratomic公司论文称,运行Shor算法的容错量子计算机可能只需1万至2.6万个量子比特,远低于此前假设的百万级。调查显示,87%组织计划、测试或实施后量子举措,但仅7%在数字证书中部署量子安全或混合密码;51%企业安全负责人从未正式测试面向公众基础设施的后量子密钥交换。