据SiliconANGLE于9月16日发布的报道,OpenAI全球政策负责人克里斯·莱恩在华盛顿表示,OpenAI已与Anthropic和谷歌旗下DeepMind研究实验室就人工智能安全合作数周,试图制定确保AI安全的框架。他称:“更好的做法是努力合作,把安全放在优先位置。”这一协作此前未被公开。

莱恩是在华盛顿一场媒体吹风会上作出上述表态的,他当时将会见多位国会议员。他没有详细说明三家公司合作的具体内容。报道提到,部分人士,包括OpenAI首席执行官萨姆·奥尔特曼,担心这种合作如果被视为损害竞争对手,可能使公司面临违反美国反垄断法的风险。

莱恩的表态出现在多位AI行业领袖就前沿模型发展轨迹和速度发出警告之后。上周六,Anthropic首席执行官达里奥·阿莫代伊在其个人博客发表文章,呼吁AI行业合作,放慢前沿AI的快速进展,以避免他所说的“灾难性风险”。阿莫代伊的呼吁得到其主要竞争对手领导人的支持,包括奥尔特曼、SpaceXAI公司的埃隆·马斯克和谷歌的戴密斯·哈萨比斯。奥尔特曼还表示,OpenAI愿意加入Anthropic的倡议,在其开发团队中嵌入第三方评估人员,以监督AI安全。

阿莫代伊在文章中称,美国政府应考虑给予相关公司豁免,以便在安全领域合作时不触犯反垄断法。但莱恩表示,他认为没有必要采取这一举措。一些法律专家警告,AI领袖在安全方面的任何协调都可能被解释为“产出限制”,从而构成违反《谢尔曼法》。印第安纳州参议员吉姆·班克斯和加利福尼亚州参议员亚当·希夫此前也提出担忧,并提议制定《敌对抗衡威胁与安全风险合作法案》,使AI实验室能够就安全采取行动,即使这些行动与反垄断法相冲突。

反对声音来自规模较小的AI公司。Cohere公司首席执行官艾丹·戈麦斯在回应阿莫代伊文章的博客文章中称,这些安全呼吁看起来像是顶级AI实验室为掩盖反竞争计划而采取的努力,目的是保持它们在前沿模型开发中的领先地位。他说,这将导致“市场主导”的实验室被允许为行业其他公司“定义规则和安全标准”。戈麦斯说:“这些寡头再次以保护公众为借口制造恐惧,现在要求弯曲竞争规则,并获准为其他所有人规定条件。披着羊皮的狼,换个名字的卡特尔。”

美国总统唐纳德·特朗普也在Truth Social上发文反对阿莫代伊的呼吁,认为任何放缓都会让中国在AI竞赛中超越美国。他的关键AI顾问戴维·萨克斯长期投资多家AI公司,并曾公开表示,AI可能构成生存威胁的担忧被夸大了。

在立法方面,OpenAI据报道正支持两项影响AI行业的跨党派法案。第一项是《FRONTIER Act》,要求建立AI安全的联邦框架,并强制AI实验室将其新模型提交独立评估人员审计。OpenAI也被认为支持另一项正在制定中的提案。据路透社报道,多数党领袖约翰·图恩正与共和党参议员泰德·克鲁兹和民主党参议员艾米·克洛布查尔合作推动一项新法案,该法案将赋予商务部长在新模型发布前对其进行安全审计的权力。