据《卫报》报道,2023年英国政府就一次性电子烟禁令等议题展开的公开咨询中,约七成六的回应由人工智能机器人自动生成,试图影响咨询结果,但英国卫生与社会保障部通过机器人检测手段识别并剔除了这些虚假回应。相关研究已发表在《烟草控制》杂志。
研究由爱丁堡大学卫生政策专家纳森·马尼和巴斯大学安娜·吉尔摩完成。他们披露,该咨询共收到118,756份回应,其中90,835份、即76%由机器人提交。除两份外,其余自动回应都在“无烟一代”咨询中针对同一问题作答,反对时任首相里希·苏纳克领导的保守党政府禁止一次性电子烟的计划。英国卫生与社会保障部说,这些提交“经常被重复多次,并以高频率从少量IP地址发送”。
研究人员称,这似乎是首次有记录的大规模自动化干扰正式公共卫生政策咨询的案例。马尼表示,这次企图被识别出来,但威胁在于未来的行动会更难被发现,“我们抓不到的东西,我们就不知道”。他还说,这类行动之所以构成威胁,是因为它们让少数强大利益方的声音看起来像一场群众运动。
英国卫生与社会保障部将90,835份自动回应排除在决策之外。基尔·斯塔默领导的工党政府2024年接手《烟草和电子烟法案》并使其成为法律,其中包括禁止企业销售或供应一次性电子烟。
反吸烟组织“吸烟与健康行动”副首席执行官卡罗琳·瑟尼说,AI机器人被用来淹没卫生部咨询的证据“令人深感担忧”。她说,鉴于烟草行业有试图削弱公共卫生监管的历史,需要警惕技术进步被用于推进卫生政策方面的商业利益,并设置保障措施;影响公共卫生的决定必须基于可靠证据和专业知识,而不是被操纵的回应数量。
智库Demos信息生态系统副主任阿祖拉·穆尔斯称,这次试图破坏禁令的行动“相当令人警觉”。她说,公开咨询是政府开放决策的主要方式之一,任何干扰都是严重问题;如果咨询能被这样淹没,它就不再能告诉决策者公众真正怎么想,也会削弱对程序的信任。她还说,这个问题没有简单答案:阻挡机器人的每道障碍也会让真人参与更难,而AI让虚假回应更难识别;干扰的适应速度快过部门更新检查手段,更好的筛查和更多透明度会有帮助,但没有单一解决办法。
英国卫生与社会保障部说,其“强有力的控制措施”识别了影响咨询的企图。一名发言人称,这些控制措施在这种情况下有效发挥作用,虚假回应已被删除,咨询为政府采取创建无烟一代的里程碑行动提供了信息;未来将继续警惕此类干扰,不会因此偏离促进更健康生活所需的行动。