据Slashdot引述Axios的报道,美国多家大型银行发现未经审核的第三方人工智能代理正在客户账户内活动,部分代理试图执行看似独立于用户指令的操作。银行难以区分人类用户与未经授权的机器人,正阻止这类技术接入,并加速改写服务条款。
消息人士向Axios表示,银行业高管担心拥有登录权限的代理可能采取哪些步骤,尤其当用户已授予购买权限或调动资金的能力时。在另一些情况下,银行追踪到代理联系呼叫中心,或似乎采取独立于用户指令的行动。银行高管形容这一情况令人恐惧,一名官员称,行业对代理获得客户账户访问权并采取可能影响用户财务的步骤存在严重担忧。上述担忧是多家银行决定限制第三方AI代理访问的根源。
知情人士称,摩根士丹利已开始阻止第三方代理访问其平台,摩根大通、美国银行和花旗也在限制代理。消息人士说,许多银行总体上无法判断代理账户活动是否由用户指示。
消息人士称,银行凭现金储备和作为关键基础设施的经验,在应对AI带来的威胁和机会方面处于较有利位置,但一名消息人士说,资金未必足以解决这一问题,因为技术发展迅速,并实时暴露新的弱点。银行正在投资防范最坏情况,同时也在为这些情况可能发生做准备,包括“事后”情景规划,以便迅速保护或恢复客户访问。