据TechRadar报道,Zscaler的CISO in Residence在一篇署名文章中指出,AI技术的普及让深度伪造手段更便宜、更难识别,企业员工、客户、投资者和董事会都可能在不知情下被欺骗,虚假信息已成为必须正视的商业风险。
文章称,多年来警告集中在深度伪造的影响上,例如伪造CEO的视频通话、克隆声音授权付款和欺诈性电子邮件。这些策略本身并非新鲜事物,但AI使其在普通业务流程中变得更难察觉。因此,零信任原则正变得与信息处理密切相关,而不再仅仅适用于访问控制。
在网络安全领域,零信任的出发点是默认不信任任何用户、设备、应用或请求。文章认为,面对AI生成的信息,企业需要对组织内部流动的信息采取同样的心态。员工、客户、投资者和合作伙伴都在根据所见所闻做决策,如果信息是虚假的、被篡改的或失去上下文,后果可能迅速从困惑演变为商业损害。
文章区分了三种信息风险:错误信息指无意识传播的虚假内容;虚假信息指刻意制造的欺骗性内容,如今可以低成本大规模生产;恶意信息则指真实信息被故意剥离上下文并加以利用,三者中可能最为隐蔽。竞争对手、犯罪团伙或活动人士无需入侵网络,仅通过塑造人们看到和相信的内容,就能对关联组织造成严重影响。
文章强调,个人在AI内容泛滥的环境中需要养成的习惯——暂停反应、质疑来源、核实后再行动——正是企业必须嵌入运营流程的习惯。信任本能已成为一种漏洞,解决它需要结构性响应,而不仅是提高认识的活动。零信任框架能够帮助企业核实信息真实性、限制暴露面,降低虚假或失实信息在内部畅通无阻的风险。
标准组织C2PA(内容来源与真实性联盟)展示了未来方向:将来源和完整性嵌入数字内容本身,如同浏览器中的锁形图标表示连接安全。文章预测,信任将不再需要企业主动检查,而会随信息一同流动,每一条内容都成为持续信任决策中的信号。
文章还警告,随着AI代理进入职场,这些非人类身份以机器速度运行,人工速度的验证无法跟上。AI代理必须从一开始就受零信任模型约束,不能因其位于企业内网、获用户批准或连接企业系统就被默认信任。其身份、权限、行为和输出都需要持续验证,并遵循最小权限原则。