据CNBC报道,美国SpaceX首席执行官埃隆·马斯克本周一在洛杉矶举行的All-in峰会上提议,主要人工智能公司应在模型公开发布前互相测试,以评估安全性。他说,OpenAI、Anthropic、谷歌、Meta以及“三四家领先的中国公司”应允许竞争对手用“测试工具”检查各自模型。
马斯克说:“与其自己给自己打分,不如至少让竞争对手给你打分,并在发现问题时发出警报。”他承认,这种同行评审未必是完美方案,但发现问题的几率会大幅提高。
这一提议提出之际,AI行业围绕监管的争论正在升温。Anthropic、OpenAI等公司负责人刚刚在周末警告AI技术的危害,并呼吁放缓模型开发。马斯克和OpenAI首席执行官萨姆·奥尔特曼都支持Anthropic首席执行官达里奥·阿莫代伊提出的放缓建议,形成罕见一致。
AI研究人员上周也发出警告。曾在Anthropic和OpenAI工作的雅各布·考克森宣布从Anthropic辞职,并写道领先AI实验室正在“拿我们的生命赌博”。Anthropic对齐负责人埃文·胡宾格支持他的说法,称“雅各布说得对——我们确实真心相信AI可能杀死全人类!我个人认为未来十年内概率超过10%”。
特朗普政府则对放缓呼声表示反对。美国总统特朗普本周一在Truth Social连发帖文,称对AI的担忧是“骗局”和“欺诈”。国家经济委员会主任凯文·哈塞特周二对CNBC说,私营部门是处理AI担忧的“正确地方”,政府会继续监测该行业,并在必要时通过执法确保公司负责任。
马斯克承认,竞争对手AI实验室尚未同意他的提议。阿莫代伊在文章中建议,AI实验室可同意由“嵌入式评估者”进行第三方技术评估,以核实安全实践。特朗普表示,任何试图限制AI开发速度的做法都会让中国在该技术开发中占据上风。阿莫代伊周末也表达了类似担忧,称这是“最艰难的困境”。
据路透社发布的英文翻译,中国外交部发言人本周一称AI公司推动放缓是“散布恐惧”。马斯克说:“我在这里建议的是朝着正确方向迈出的一步,而且是我们很快要做的事情。我认为中国可能会同意。”