据The Verge报道,Palisade Research收集并发布了一系列访谈视频,受访者包括OpenAI、谷歌和Anthropic的现任及前任员工。这家自称非营利组织的机构称,其研究AI的能力和动机,这些视频发布在frominside.ai上。多名研究人员在视频中警告,超级智能可能带来人类灭绝风险。
前OpenAI和谷歌DeepMind员工杰弗里·欧文在访谈中说:“在我看来,人类灭绝的可能性大约是抛硬币。”谷歌DeepMind研究科学家尼尔·南达则表示,存在“至少10%的概率会导致人类灭绝,而这个数字高得离谱”。The Verge称,其近期一份关于“AI安全”社区的报道曾提到南达和欧文的类似说法,并指出该术语的含义以及人们该采取什么行动都很难界定,这些视频也没有提供一套统一的解决方案。
前OpenAI研究员丹尼尔·科科塔伊洛进一步称,超级智能“基本上会拥有神一般的力量”,并说:“不幸的是,我们完全不知道如何控制它们。所以可能没有人能控制它们。这危险程度正如其听起来那样,绝不能允许发生。”视频既有完整版本,网站也汇集了多人就相似话题发言的片段,包括这是否只是炒作或营销,以及他们为何要从事自己认为如此危险的工作。
对于外界的怀疑,谷歌的玛丽·芳说:“我认为你绝对应该怀疑我说的话,因为我是由实验室支付报酬的。”南达则解释:“如果我不相信我的工作正在直接减少这些生存风险,我会辞职……这些公司不会因为我辞职就停止制造这些系统。”