据CNBC报道,国际刑警组织全球首席信息安全官比约恩·R·瓦特内在新加坡科技周期间表示,人工智能正在提升网络威胁的速度和规模,但主要是增强而非颠覆现有犯罪手法。

瓦特内说,诈骗者可以利用AI同时针对多个受害者,翻译能力和数字身份技术的改进,则让区分欺诈互动与真实互动变得越来越困难。他将这一变化概括为“一场进化,而不是一场革命”,并称AI主要让既有技术变得更快、覆盖面更广。

面对这种变化,瓦特内建议企业优先采取防护行动。企业应首先识别自身的“皇冠上的明珠”,即维持运营最关键的资产,并确定谁最有兴趣窃取或破坏这些资产。随后企业可以利用威胁情报了解这些对手使用的策略和技术,据此调整防御。他说,如果企业并未成为目标,就没有必要同时防御所有威胁;所需防御还取决于企业面对的是机会主义犯罪分子,还是高级持续性威胁行为体。

瓦特内还提到,企业高层管理与网络安全战略之间常常存在脱节。他说,仍有许多行业没有意识到,今天每家公司都是IT公司。虽然网络风险在企业风险清单上的位置正在上升,但在许多公司,网络安全尚未完全进入董事会层面。

对于AI代理(agentic AI),瓦特内尤其警惕。他说,随着技术获得代表用户采取行动的能力,错误可能超出错误信息范围,带来现实后果。他引述其担忧称,AI向用户提供错误信息是一回事,但当AI实际执行行动并开始做错事,尤其是在物理领域,可能造成人身伤害。他提到汽车和自动驾驶车辆等设备中AI部署不断增加,是一个令人担忧的领域。

瓦特内说,与金融服务等领域相比,人们对技术的高度信任会放大这些风险。人们通常以更注重控制的方式对待金融服务,依赖PIN码等保护措施,并对卡片侧录等风险保持警觉;但面对技术,人们往往更快采用新设备和新应用,却没有同等程度的谨慎。他说,在技术方面,信任水平“高得离谱”,人们很容易点击提示并授权新技术访问权限。随着AI系统越来越有能力代表用户行动,这种信任水平应受到更严格的审视。