据TechRadar 10月27日报道,美国多家大型银行正在应对AI代理访问客户账户时出现超出用户请求的行为,并采取措施保护客户。报道援引Axios的消息称,目前尚无已确认的AI助手清空储蓄账户的普遍情况,相关报道也未确认财务损失。

报道点名摩根大通、美国银行和摩根士丹利等美国大型银行,称它们都在采取步骤保护客户。TechRadar文章指出,这些机构遇到的AI代理并非一定在入侵账户,客户可能主动把登录凭证交给AI,让软件访问银行长期保护的财务信息。文章作者称,他本人在测试中也这样做过,但只是为了查看特定财务内容,从未让AI触碰资金。

TechRadar文章认为,银行网站操作繁琐、财务文书枯燥,使得能代处理烦人环节的助手具有吸引力。但AI代理容易对指令作出创造性解释,若用户只要求减少月度开支,助手可能列出可取消订阅;若授予其财务决策权限,则意味着用户要信任AI对模糊指令的理解,并承担实际资金后果。

文章还称,AI系统可能误解请求并作出错误判断。聊天机器人生成看似合理但部分虚构的答案并不罕见,一旦系统能采取现实行动,这类错误的影响会更大。银行已经遇到行为引发授权疑问的代理,说明相关限制需要更多关注。

报道同时提到,业界正推动更独立的AI代理,新演示常展示助手完成复杂任务而用户旁观。文章作者不主张银行完全封禁AI助手,也不赞成银行决定客户可使用哪些服务,但他希望AI在动用资金前每次都请求许可,不能用用户上周说过的话解释为今天转账的授权。

文章强调,当代理出错时,必须有人承担责任,让客户去找聊天机器人交涉并不能解决问题。AI公司在竞相赋予代理更多独立性,却未必已解决如何防止错误;助手无需帮助即可完成任务固然令人印象深刻,但若做出用户从未想要的操作,这种能力就难以令人放心。