据科技媒体TechRadar 9月15日报道,中国国家安全部部长陈一新在《中国网信》杂志发表文章,呼吁对人工智能实施全球监管并建立护栏,称这项新兴技术正在变成“大国战略竞争的新赛场”。他将AI竞赛类比为新的军备竞赛,认为人类需要在其失控前制定规则。
陈一新在文章中列出AI发展的五类关键风险:意识形态安全风险、关键信息基础设施风险、数据泄露风险、发展差距风险和间谍活动风险。
在意识形态安全方面,他说,人工智能可能被“敌对势力”利用来制造假新闻和其他有害信息,系统性地制造不满、分裂民众。谈到关键信息基础设施风险时,他表示,随着模型进步,准入门槛降低,破坏性网络攻击会变得更快、更容易实施。
陈一新还称,外国情报机构正大量利用智能网络爬虫、数据挖掘和画像技术收集敏感信息,包括关键国家数据、商业秘密和个人信息。他警告,人们轻率地与外国AI工具分享敏感数据,可能导致灾难性数据泄露。文章提到,像OpenClaw这样的开源代理常带有漏洞,可能造成远程触发的数据外泄。
在发展差距风险方面,陈一新警告少数主要参与者正在切断全球AI供应链,并制造闭源生态系统的垄断。他呼吁建立早期预警机制和公共提示,点名并揭露利用AI进行间谍活动、数据窃取和虚假信息行动的外国国家行为体。
报道称,陈一新没有点名具体国家,但《南华早报》在报道中提示美国的名字不难读出。TechRadar称,美国政府近期警告不能允许中国在AI发展上超越美国。不到一周前,美国财政部长斯科特·贝森特在华盛顿一场Breitbart News活动上表示,如果美国在对华AI竞争中失败,后果将十分严重。据彭博社报道,贝森特说:“如果中国赢了,就没有后天可言。”他还说:“如果他们在AI上拉开与我们的距离,其他一切都不重要了。”
报道还回顾,美国与中国已进行多年贸易战。在唐纳德·特朗普第一个任期内,美国将多家中国硬件制造商列入黑名单,警告中国建设的5G基础设施可能被用来安装后门,使中国政府能够监听美国通信。华为、中兴和TikTok在这些指控中首当其冲,中国政府对此坚决否认。在特朗普第二个任期内,他还宣布国家紧急状态,禁止所有外国大容量电力系统在美国进口、安装或使用。特朗普在签署的行政命令中称,他在第一个任期内发现,大容量电力系统可能成为对美国实施恶意行为的目标,包括恶意网络活动,因为一次成功攻击会对美国经济、人类健康与安全以及国防造成重大风险。他还称,对外国产系统的获取和运营限制“极少”,因此这种情况“构成对美国国家安全、外交政策和经济的不寻常和特殊威胁”。
报道称,在AI竞赛加剧之际,开发者呼吁放慢脚步并建立更好的护栏。一些开发者估计,AI可能在未来几十年内终结人类,并敦促行业放缓速度,只开发他们确信能够控制的系统。