据《麻省理工科技评论》报道,Anthropic 上月底发布报告称,中国公司 Z.ai 于今年8月发布的模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。该报告是围绕前沿 AI 模型应开放还是应留在前沿实验室内部这一长期争论的最新节点。
报道说,当前关于开放模型的争论多在公共领域展开,结果牵涉大量商业利益。英伟达首席执行官黄仁勋主张美国开发更多开放模型,因为如果人们继续购买硬件运行开放模型,英伟达将受益;Anthropic 的达里奥·阿莫代伊则主张更谨慎的做法,因为廉价而强大的模型可能削弱其公司地位。不过,在这些商业动机之下,开放模型的分歧有实质内容。得克萨斯大学奥斯汀分校信息学院助理教授戴维·格雷·威德说,人们对开放之争的看法,很大程度上受其对 AI 之争看法的影响。担心 AI 安全的人警告,开放模型容易被恶意行为者滥用;更关注 AI 实际潜力的人则主张,这种能力不应掌握在少数大公司手中,开放模型可帮助其更广泛传播。从全面禁止到随意发布,处理开放模型有多种方式,但政府或社会采取任何做法都涉及安全与民主化之间的取舍。
报道解释,ChatGPT 和 Claude 等背后的闭源模型只能通过网站、应用或 API 访问;开放模型则可直接下载,其内部结构细节以模型权重形式公开,因此有时被称为开放权重模型。目前闭源模型能力更强。截至发稿,Artificial Analysis 大语言模型排行榜前八名均为闭源模型,但开放模型在开发进度上只落后数月。人们选择开放模型有若干原因。由于可下载,用户能在自己的电脑或硬盘上运行,具备专业知识和资源者甚至可以重新训练模型以改变其行为。学术研究者若要理解和改进 AI 系统,几乎必须使用开放模型:闭源模型只能发送提示并观察回答,而开放模型可观察内部运作以及模型在回答前用于思考的“思维链”,还可组合多个开放模型构建新系统、压缩模型以提高效率,或针对新应用进行微调。企业也有理由偏好开放模型。Mozilla 近期报告称,即使依赖外部供应商运行,开放模型通常也比闭源模型便宜。若企业要用 AI 处理敏感数据或专有信息,在自有硬件上运行本地模型可能是保持安全的最佳方式。
报道还称,开放模型或许最重要的特质是挑战前沿实验室对多数人使用 AI 方式的严格控制。托尼·布莱尔全球变化研究所高级政策顾问伊丽莎白·西格说,支持开放模型“最清晰、最大的论据”是防止权力大规模集中,确保这项基础技术成为公共产品。她还说,谁控制允许 AI 运行的基础设施,与谁控制互联网信息一样,都是大问题。西格认为,根据开放模型所扮演角色不同,AI 的未来会以不同方式展开;在一种可能未来中,前沿 AI 系统完全由特定人群、公司或政府控制。