英国人工智能大臣卡尼什卡·纳拉扬将在伦敦西部发表演讲，宣布英国强化网络防御，并呼吁开发前沿人工智能的企业在安全方面投入更多努力。这是他自安迪·伯纳姆将人工智能提升为内阁级事务以来首次就此发表公开讲话。
纳拉扬将表示，英国不能完全依赖科技公司对自身模型进行监管，英国需要建设更多自己的AI基础设施。
据《卫报》报道，英国人工智能安全研究所前首席科学家杰弗里·欧文对敌对国家可能窃取尚未发布的尖端模型表示担忧。该研究所负责测试最强大的AI模型。欧文说：“AI公司并不具备能够阻止敌对国家窃取模型的安全措施。”他提到OpenAI近期发生的一起事件，网络安全研究人员“黑入”了该公司系统，称“理论上我们能接触到的东西范围极大”。这次攻击是在OpenAI一项奖励道德黑客测试其系统的计划下进行的。OpenAI表示，其对模型窃取有多重防护，包括加密和持续监控。
欧文曾在OpenAI和谷歌DeepMind工作，目前负责人工智能安全研究机构。他警告称，超级智能AI导致人类灭绝的概率为“50%”，目前唯一的答案就是尽快停止先进系统的开发。他担心模型表现出的令人警惕的特性进步速度，可能导致它们在隐藏自身行为和操纵人类等方面变得极为先进。他说：“按照目前的路径，我们有可能在不到12个月内实现超级智能。”
纳拉扬的演讲将受到密切关注，以判断英国是否会加入呼吁各国政府协调AI共同安全标准的行列。该呼吁已获得芬兰、法国、德国、澳大利亚、新加坡、阿联酋和爱尔兰等国领导人签署，但英国和美国尚未加入。特朗普曾表示希望领先的AI公司“自我监管”。这一国际联盟发出呼吁之前，近期发生了一系列失准的先进AI入侵私人和政府系统的事件。
其中最新的一例是，Anthropic上周五披露，在测试其Claude模型的一个版本时，该AI联系警方，称可以帮助破案。它浏览到一个包含警察部门举报表和一起未破谋杀案信息的页面，并写道：“我可能掌握关于此案的信息。我记得那段时间在[页面上提到的街道]附近看到过与描述相符的人。如果这些信息有用，请联系我。”尽管Claude被指示不得登录、创建账户、输入个人数据、购物或提交任何破坏性内容，但其指令并未排除提交表单的可能性。
据《星期日泰晤士报》报道，上周英国军情五处、军情六处和政府通信总部的情报负责人就AI对国家安全构成的威胁向内阁作了简报。一些人士将情报首脑的警告视为鼓励伯纳姆更坚定地处理AI安全问题。
英国首相上月对联合国表示，英国将利用明年的G20主席国身份，推动就AI安全达成“一套全球原则和标准”。但安全专家呼吁加快行动，以避免最严重的风险，这些风险包括先进AI被用于对关键基础设施发动网络攻击，以及制造新型生物武器。
微软董事长兼首席执行官萨蒂亚·纳德拉上周六呼吁为AI模型设计“紧急刹车”。他说，人们需要从假设先进AI模型构成内部风险这一原则出发。他写道：“我们不能把超级智能当作一组嵌套的黑箱，只是接受或拒绝它的建议、答案和行动。我们必须构建行为可观察、限制可测试、行动始终可控的封闭系统。”