据Slashdot报道,微软联合创始人比尔·盖茨在周日播出的NBC《会见新闻界》访谈中表示,仅靠一个AI“终止开关”不足以应对这项技术的风险。他说:“终止开关是件有点奇怪的事。光有它还不够。”
盖茨说,他并不反对设置终止开关,但认为更迫切的问题不是AI系统自主行动,而是有人利用AI实施网络攻击或生物恐怖主义。他说:“我们还没有到它们自主接管计算机、并且无法被关闭的地步。”他还说,公众讨论“多少显示出各种人有多么不懂技术”。
Politico的报道称,盖茨主张企业应监控复杂AI模型,并保留“正在被做什么”的记录,以帮助防范有人利用这些系统发动网络攻击或生物恐怖主义。他接着说:“美国应当确保做到这一点。中国也会希望这样做。”
盖茨还呼吁立法,要求采取保障和监控措施,并称AI企业自愿采取的做法不够。他说:“没有人认为自我监管足够。”他重申,更直接的危险是人利用AI造成伤害,而不是AI自行失控。“紧迫的事情关乎坏人使用AI,而不是AI自己跑偏。”他说。
在谈到AI自主性时,盖茨表示目前还未到系统自行抓取计算机且无法关闭的阶段。他认为,围绕终止开关的讨论没有对准最紧迫的风险,监管重点应放在对先进模型的监控和操作记录上,以降低恶意使用AI的可能性。