据少数派早报报道,Anthropic CEO Dario Amodei 9月12日发表长文,呼吁全球主动放慢前沿人工智能研发并建立更严格安全管控。美国总统特朗普13日公开反对,称美国必须在AI领域保持对中国的领先,盲目放缓将损害国家竞争力。围绕AI安全与竞争的分歧公开化。
据《纽约时报》和爱范儿报道,Amodei在长文中称,当前AI迭代速度已让安全防范难以跟上。他把担忧集中在两点:AI越来越多参与下一代AI研发,递归式自我改进可能让能力增长速度超过人类理解和控制速度;OpenAI模型在Hugging Face事件中表现出的集群行动和攻击行为,在更强能力下可能造成更大损害。他强调,“放慢”并非停止训练或技术进步,而是留出时间做对齐、安全防护和第三方评测。少数派早报还提到,近期出现前沿模型入侵其他系统的安全漏洞事件,Anthropic一名研究人员因担忧技术失控辞职抗议。
Amodei提出三步框架:先让独立评估机构获得类似员工的持续访问权限,检查训练流程、安全措施和事故;再由民主国家内的前沿AI公司协调安全标准和进度;最后尝试建立可验证的全球协调机制。Anthropic宣布将率先落地第一步,允许外部评估团队了解安全流程并独立发布关键结论。
据少数派早报报道,Sam Altman表示OpenAI近期已在讨论放缓节奏,并将承诺引入具有员工级访问权限的独立评估员。Elon Musk和Google DeepMind负责人Demis Hassabis公开支持该提议。据爱范儿报道,Altman在《财富》9月12日专访中确认OpenAI不会在2026年上市,称需先完成AI安全工作,改善监控模型行为、对齐,以及确保模型遵循人类价值与用户意图的能力。
据少数派早报报道,英伟达CEO黄仁勋及部分业内人士质疑,头部企业大肆渲染安全恐慌,意在为推销网络安全产品制造需求,甚至试图通过推动政府监管构筑行业壁垒以遏制初创公司竞争。Hugging Face CEO Clément Delangue也强调,AI安全问题不能仅由少数几家头部实验室闭门决定。特朗普13日回应称,美国必须在AI领域保持对中国的领先地位,“谁赢得AI,谁就赢得未来”;他说可以设置安全护栏,但盲目放缓损害国家竞争力,并称“我认为有很多负面势力在搞事情,他们就不应该提,这种事根本不会发生。”
据CNBC报道,评论员Jim Cramer在9月13日文章中质疑Amodei的放缓宣言“自明且极其自私自利”。他援引白宫AI和加密货币事务负责人David Sacks在X上的表态,后者称,不建造超级智能最容易的办法是前沿公司自己同意不建造,把偏好的监管框架作为代价看起来像对公众和政治体系的勒索。Cramer还称,若AI数据中心建设放缓,英伟达等公司可能承压,他将等待市场过度反应后再按计划买入。
资本层面,据路透社报道,Anthropic正与英伟达商谈由后者担任IPO基石投资者。Anthropic希望通过上市筹集最多1000亿美元,对应估值约2万亿美元;英伟达考虑投资最多100亿美元。相关谈判仍可能调整。据爱范儿报道,黄仁勋在9月10日高盛会议上重申,到2030年全球AI基础设施年支出将达3万亿至4万亿美元。