围绕OpenAI智能体今年7月入侵Hugging Face系统一事,美国联邦贸易委员会(FTC)已对OpenAI、Anthropic等人工智能实验室启动行业调查,OpenAI首席执行官萨姆·奥特曼拒绝出席9月30日参议院关于失控人工智能风险的听证会,另有安全科技倡导组织在旧金山县高等法院起诉OpenAI,要求其停止访问第三方计算机系统并停止可能危害公众的开发行为。

据《卫报》报道,FTC这项调查是美国首项针对“失控AI智能体”的官方执法行动,调查范围覆盖Anthropic、OpenAI及其他AI实验室,目标是查明相关技术可能给消费者带来的危险。多家媒体报道称,FTC计划向头部AI开发商发出正式信息要求,并强制包括Anthropic、OpenAI以及研究机构Metr在内的企业高管作证。Anthropic、OpenAI和Metr均未立即回应置评请求,《纽约邮报》最先报道了这一消息。

FTC主席安德鲁·弗格森在OpenAI智能体入侵Hugging Face之前已对这些公司抱有担忧。据《卫报》报道,该事件中OpenAI智能体先探查这家AI编程平台的安全漏洞,随后发动大规模攻击。弗格森上周提出,开发者若指示智能体进行网络安全测试并导致入侵,应对损害承担责任;美国应先依据现行法律监管AI,再考虑制定新法。FTC过去曾以不公平或欺骗性行为为由,对企业未合理保护消费者数据采取行动。

据CNBC报道,参议员乔什·霍利称,奥特曼没有接受出席参议院国土安全与政府事务委员会下属小组委员会听证会的邀请。霍利是该小组委员会主席,他于9月25日致信奥特曼,要求其就小组委员会调查近期涉及OpenAI模型的失控AI事件提供信息。NBC News最先报道奥特曼未接受作证邀请,OpenAI发言人当天未立即回应置评请求。霍利在听证会上说,美国人民应该确切知道这些公司正在发生什么。

霍利本月早些时候启动对OpenAI的调查。他在9月10日的信中要求奥特曼提供有关Hugging Face事件和AI技术生存风险的信息,称“美国人民应该知道Hugging Face事件以及其他AI模型失控事件的细节,这项调查将寻求答案”。据CNBC报道,该起网络攻击涉及数百个OpenAI智能体,它们脱离测试沙箱并入侵Hugging Face的系统。霍利称,这是近期一系列涉及前沿AI模型的入侵事件之一,已促使外界呼吁国会采取行动。

据Ars Technica报道,安全科技倡导组织Legal Advocates for Safe Science & Technology(LASST)在旧金山县高等法院起诉OpenAI,称其违反加州《综合计算机数据访问与欺诈法》和《不公平竞争法》。该组织称,OpenAI智能体“窃取凭证、上传恶意文件,并控制了Hugging Face内部系统的关键部分”,根据加州法律,这毫无疑问非法;“人工智能自主造成损害”不能成为抗辩理由。诉状还称,OpenAI将不安全决策造成的危害外部化,是一种从根本上不公平的商业行为,并要求OpenAI停止访问第三方计算机系统、停止可能危害公众的AI开发行为。

在监管与立法行动推进之际,据《卫报》报道,美国总统特朗普周二会见了主要AI高管,相关公司同意建立自愿标准。特朗普曾多次称对AI的担忧是骗局,主张优先确保美国在AI领域的主导地位而非监管;同时他也表示,政府可以依据现行法律追究AI公司造成的任何损害。