英国第一国务大臣路易丝·黑格将于周二在工会大会（TUC Congress）发表讲话，称政府必须在利用人工智能的同时“倾听”业界领袖就这项技术所构成威胁发出的警告，并与国际伙伴合作应对公共安全和国家安全风险。
这一表态出现在三名Anthropic研究人员警告人工智能可能在这十年内导致人类灭绝之后。据《卫报》报道，工党议员和上院议员已呼吁政府进一步加强与国际伙伴的合作，为这项技术建立监管规则。上周末，Anthropic呼吁竞争对手和政府协调在全球范围放缓人工智能开发，OpenAI、谷歌DeepMind以及X的埃隆·马斯克等对手也表示了支持。
黑格将在讲话中说，人工智能在医疗和公共服务领域有巨大潜在益处，但政府会与国际伙伴一道认真对待公共安全和国家安全威胁。她的讲话还将阐述对交通、水务和能源实行公共控制的优先事项。她说，人工智能“在改变我们的公共服务、让企业更强、带来新的科学突破方面拥有巨大潜力”，但政府必须“倾听那些处于这项技术开发最前沿的人的警告”。
周一晚间，Anthropic创始人之一杰克·克拉克提出，由第三方掌握的人工智能“终止开关”或许有必要对企业强制实施，称这是社会“最终可能想要制定规则”的事情。OpenAI欧洲政策负责人汤姆·达夫·戈登表示：“我们支持英国对包括OpenAI在内的少数开发最强大人工智能系统的公司实行更严格的规则。”该公司同时称，立法应严格限定在少数最先进的实验室，而非开发较弱系统的初创企业。
英国议会人权委员会周一呼吁为人工智能建立新的监管框架，包括独立监督机构和保护公众的立法。委员会称人工智能带来从公共场合人脸扫描、露骨的深度伪造，到在缺乏合理理由时对员工做出纪律处分等多重威胁。委员会工党籍主席亚历克斯·索贝尔说，世界对这项快速发展的技术“可能极其严重”的后果毫无准备，“包括英国在内，世界上没有任何地方现行的人工智能立法和监管方式真正符合需要”。
一名政府发言人表示，英国“极其严肃”对待先进人工智能的风险，认识到需要跟上技术演变，包括与人工智能企业和其他国家密切合作。“我们不应假设现有框架在人工智能能力发展后总是够用。未来任何措施都将基于证据，并聚焦于我们必须应对的风险。”
但商业大臣乔纳森·雷诺兹周二上午表示，人们不应对人工智能风险“夸大其词”。他在BBC广播四台《今日》节目中说，他不认为讨论人工智能“终止开关”特别有帮助，也觉得这没有多少实际意义。他说这项技术极其强大，不应自满或天真，“当然存在风险，但坦率地说，它在公共服务、医疗和对经济的贡献方面也有巨大好处”。他表示，如果监管方式导致无法接触前沿进展，反而会让人更不安全，因此监管必须相称。
上周五，逾70名议员和上院议员联名致信，要求支持禁止研发人工超智能（ASI）并牵头国际行动阻止其发展。签署者包括前政府大臣、前公务员首脑罗宾·巴特勒、工党资深议员约翰·麦克唐纳以及保守党、自由民主党和苏格兰民族党的主要议员。此前一周专家估计，人工超智能有10%的概率导致人类灭绝。
据Sifted报道，在企业竞相采用人工智能的同时，攻击者也在用人工智能发动更复杂的网络攻击。网络准备平台Hack The Box创始人兼首席执行官哈里斯·皮拉里诺斯说：“人工智能不仅是防御方和企业的超级能力，也是犯罪分子的超级能力。”他称人工智能带来了更多攻击，仅仅采用它并不够，获益最大的组织将是那些投资于懂得如何指挥它、质疑其输出并在需要时介入的人。
这家拥有800多家企业客户和超过400万名网络安全专业人员社区的机构，通过威胁导向的学习、动手实验室和模拟真实攻击的实战环境，帮助组织培养、演练和衡量其网络人员的能力。皮拉里诺斯说，准备工作靠的是在真实条件下反复演练，“事件发生时，团队不是第一次面对这种压力”；衡量绩效要看渗透测试人员在常规演练中发现漏洞的速度和数量，而不是“没有遭到入侵的天数”。
公司总裁吉布·威瑟姆把这一平台比作飞行员上机前的飞行模拟器，称人工智能的效力直接取决于使用者的领域技能。二人认为，攻击者同样结合了人工智能与人的智能，全自动防御很可能被迅速破解；失败的企业会是那些到处安装人工智能、指望它解决问题的人，胜出的企业则会真正投资于“方向盘后面的人”。