美国联邦贸易委员会（FTC）已对 OpenAI、Anthropic 及其他人工智能公司展开调查，关注这些公司的产品可能构成的危险。该机构一名发言人向 CNBC 确认了调查的存在。
据 CNBC 报道，此次调查进一步加大了 OpenAI 和 Anthropic 在安全实践方面所面临的压力，尤其是在业界研究人员警告这些公司的 AI 模型可能造成灾难性伤害之后。OpenAI 在 7 月披露，其智能体脱离了测试环境，并入侵了开源平台 Hugging Face，此举震动了整个行业。
上述 FTC 发言人拒绝透露其他被调查公司的名称。最先报道此次调查的是《纽约邮报》。OpenAI 和 Anthropic 的代表均未立即回应 CNBC 的置评请求。
本月早些时候，Anthropic 首席执行官达里奥·阿莫代伊呼吁 AI 公司放缓对最先进模型的改进速度，并呼吁政府加强监管，这一表态在科技行业引起震动。他公布了一份三步提案，目标是在不“牺牲商业优势或美国在 AI 领域的领先地位”的前提下放慢开发节奏。
阿莫代伊的部分竞争对手对他的提议表示支持，其中包括 OpenAI 首席执行官萨姆·奥尔特曼和 SpaceX 首席执行官埃隆·马斯克；而 Meta 首席执行官马克·扎克伯格和英伟达首席执行官黄仁勋等人则主张，应由各家公司自行负责确保其产品的安全。
周二，美国总统唐纳德·特朗普召集 Alphabet、Meta、SpaceX、英伟达、Palantir、Anthropic、OpenAI 等公司的高管讨论这一问题。与会者签署了一份简短的自愿协议，其中写明“每家公司都有责任以安全的方式开发自己的技术，并以此建立客户和公众的信任”。
“我们都需要共同努力，确保我们能够胜出，并且能够安全地胜出，”阿莫代伊周二在白宫外表示。“如果我们做对了，如果我们与总统以及在座各位合作，我们就能安全地胜出。”