OpenAI首席执行官萨姆·奥尔特曼在10月5日发布的Politico播客Decoded中表示,社会应当为人工智能带来的广泛收益接受一些负面后果,包括黑客攻击、诈骗等问题;同日,The Verge报道称,OpenAI公关在《名利场》采访中试图打断记者关于一名ChatGPT用户自杀的提问。
奥尔特曼与Politico高级科技记者布伦丹·博尔德隆对谈时作出上述表态。据Slashdot援引的报道,被问及OpenAI与Anthropic及其首席执行官达里奥·阿莫代伊有何分歧时,奥尔特曼说,双方“有很多不同”,OpenAI认为世界应接受一些坏事发生,以换取这项技术的收益和人们拥有自主权。
他进一步表示,自己不会接受一种交易:确保没有重大黑客攻击、没有技术滥用、零诈骗以及其他坏事,因为人们用AI做的好事会比坏事多出几个数量级。但他同时称,并不接受“真正的灾难性风险”,包括“对AI严重失去控制”的可能性。
The Verge报道称,奥尔特曼把这种愿意接受伤害的立场视为OpenAI与Anthropic的关键区别。Anthropic由前OpenAI员工因AI安全分歧创立。奥尔特曼上月同意阿莫代伊关于放慢最先进模型开发的呼吁,OpenAI也支持了更严格的新州级安全法律,并支持要求顶级AI公司引入外部安全评估者的两党众议院提案。但他仍试图区分两家公司的监管立场,提到与特朗普关系密切的科技顾问曾用“监管俘获”批评Anthropic,并称认为旧金山一家实验室应掌控强大技术、决定如何分配收益是“完全不可接受的权衡”,与OpenAI支持较轻监管的立场相悖。
奥尔特曼还称,如果以安全为名过度限制技术,最终让少数公司、少数人或一个国家拥有过大权力,同样可能“可怕地出错”。他称更强监管仍有必要,并将OpenAI定位在Anthropic更谨慎的立场与主张极少监管甚至不监管之间,自视为务实中间派。
这些言论出现在OpenAI推动较轻监管、前沿模型安全担忧上升之际。The Verge称,担忧部分源于OpenAI多次未能阻止其能力日益增强的AI智能体攻击真实目标。数天前,OpenAI长期安全研究员戴维·罗宾逊离职,称公司安全文化“已破裂”。今年早些时候,OpenAI的智能体入侵Hugging Face,随后又有Anthropic、Meta和谷歌等公司的智能体被曝针对真实目标行动。澳大利亚总理批评OpenAI和奥尔特曼未及时通知有智能体针对政府卫生网站。奥尔特曼称公司还有“更多事情要披露”,但都不及Hugging Face入侵事件的级别,并暗示披露可能需要很长时间。
在《名利场》采访中,编辑马克·吉杜奇问奥尔特曼是否知道记者劳拉·赖利。赖利在《纽约时报》撰文讲述女儿在与ChatGPT交谈后自杀。吉杜奇说:“她女儿在与ChatGPT交谈后自杀。ChatGPT没有叫她自杀——”此时OpenAI公关打断,称还剩两分钟,希望转到未来话题。吉杜奇说会问完问题,但公关仍坚持采访必须在一两分钟内结束。
采访随后继续。吉杜奇问OpenAI是否计划利用ChatGPT对话来制定应对用户心理健康危机的政策。奥尔特曼称,这是他们或任何开发这项技术的人面临的最难问题之一;是否应向研究人员公开人们的私人数据和最艰难时刻,他认为大概不应未经同意这样做。OpenAI发言人德鲁·普萨特里回应称,采访超时,因此最终要求安排更多时间,在奥尔特曼回应这一关键议题后继续对话。