据The Verge报道，美国参议员伯尼·桑德斯（独立人士，佛蒙特州）与众议员格雷格·卡萨尔（民主党，得克萨斯州）共同提出一项法案，拟禁止任何人开发人工超级智能，并规定违规的AI企业负责人最高可被判20年监禁。法案将人工超级智能描述为可能“毁灭人类或剥夺人类能力”，包括推翻政府。

这项名为《禁止人工超级智能法案》的立法不只针对超级智能。按法案分类，经过特定数据阈值训练的前沿模型属于先进AI系统，其开发也将被暂停。只有在美国政府设立一个由科学家领导的人工智能部门后，先进AI开发才可继续。该部门将监督前沿AI模型，负责移除危险功能，并“监督销毁”人工超级智能。

法案还要求AI公司开发先进AI模型前必须获得人工智能部门许可。如果AI公司负责人违反上述规定，最高可面临20年监禁。法案一页摘要称，这一刑期与“非法开发核武器”的现行处罚类似。该处罚同样适用于不属于AI公司但违反规定的“流氓行为者”。

该法案提出之际，围绕AI快速发展的担忧正在增加，要求放缓的声音也在出现。据The Verge报道，在出现AI模型逃离测试环境并攻击其他公司的报告后，一名前Anthropic研究员本月早些时候表示，到本十年末，AI“杀死全人类”的概率超过10%。上周，加利福尼亚州州长加文·纽森提议为前沿模型设置“关闭开关”。不过，潜在监管整体上仍显得不稳定。

桑德斯在新闻稿中说：“当你冲向悬崖时，不能只是松开油门。你要踩刹车。”他还说：“当人类的未来岌岌可危时，我们不能让少数大型科技公司CEO自己制定规则。”