据TechCrunch AI报道,一项即将在下月人工智能伦理与社会会议上发表的研究显示,随着AI工具让填表和提起申诉变得更容易,英国、美国、巴西和德国等地公共服务收到的申请与投诉量自2022年以来大幅上升,研究者将这种现象称为“智能体洪水”。
英国住房监察专员收到的投诉自ChatGPT推出以来增加一倍多,从2022年的2600件升至去年的略高于7000件;美国消费者金融保护局(CFPB)同期投诉量增长5倍;巴西的司法请愿和德国议会请愿也出现类似跃升。研究者Chris Schmitz正在跟踪这一上升趋势。
在论文中,Schmitz考察了11个司法辖区内84个可能发生“洪水”的案例,服务范围从福利申请到正式司法上诉,共同点是都拥有可由AI助手访问的在线服务。出于方法上的原因,论文没有直接断言AI是申请量激增的原因,但84个案例大多呈现相似轨迹:2022年之前提交量大致平稳,之后随着AI技术扩散加速上升。大多数案例的增长尚未放缓,表明这一趋势可能在未来数年持续。
Schmitz说,人们正发现这是可以做到的事,而且逐渐变得更容易。他举例称,过去可能需要把大量背景信息拼凑起来,并非常精确地提示ChatGPT 3.5,现在可能只需粘贴内容,或用Claude应用拍下信件照片,就能一次性得到相当不错的回复。
这种申请量激增与去年许多漏洞赏金服务的经历相似:企业发现收件箱被大语言模型生成的低质量报告淹没,这些报告很少包含重大安全问题,但企业仍必须逐一审核,占用了大量资源。公共服务可能面临类似局面:以相同预算处理五倍于以往的申请者。
不过,Schmitz表示,与漏洞赏金项目被无价值提交淹没不同,公共服务新增申请大多来自有合法诉求的真实人群。他对TechCrunch说:“我们发现的绝大多数案例中,人们有权申请某项东西,并正在为此提出申请。”
如果这些人此前没有申请,可能是因为申请工作过于艰难,政策界将其称为行政负担。AI能够减轻这种负担,因此可能成为以更符合AI时代的方式重塑公共服务的契机。Schmitz认为,让AI顺利发展的重要部分,是详细描述出“好版本”是什么样。他说,任何用ChatGPT报税的人都知道存在一个有帮助的好版本,“现在可能是时候说,我们需要重新思考这个流程几乎所有的方面”。这是一项重大任务,目前基本尚未开始。