美国参议员伯尼·桑德斯和众议员格雷格·卡萨尔于9月3日宣布，将推出《禁止人工智能超级智能法案》，要求永久禁止开发与部署超级人工智能，并暂停“高级人工智能开发”，直至联邦监管机构制定安全标准。据《国会山报》报道，这项两院联合提出的法案还将指示美国政府“推动国际协议，防止超级智能在世界任何地方被开发”，并设立一个专注于人工智能安全规则的内阁级联邦机构。
近期发生的一系列涉及“失控”人工智能模型的黑客事件，是推动该法案的直接原因。桑德斯在新闻稿中表示：“几乎每天都有关于大型科技公司正在失去对所开发技术控制的新可怕报道，这可能造成灾难性后果。”他补充说：“主要人工智能公司的领导人都公开承认，他们并不完全理解这项技术，它正在脱离他们的控制。社会允许他们继续推进并让这些产品变得更先进，是不负责任的。”卡萨尔则强调了人工智能的迅猛发展：“仅仅四年时间，我们就从第一版ChatGPT发展到了强大到无法被妥善控制的人工智能模型。”
法案还规定了严厉的处罚措施。任何试图规避禁令的个人或公司都将面临新的惩罚，其中包括“公司死刑”，即法院强制公司关停；个人开发者最高可被判处20年监禁。超级人工智能指能够超越最聪明人类的人工智能技术。包括OpenAI首席执行官萨姆·奥尔特曼在内的多位科技领袖曾表示，超级智能即将到来。