TechRadar于10月1日刊发Guidewire欧洲、中东和非洲区高级副总裁兼董事总经理的评论文章,指出企业部署AI代理(AI agent)的主要风险不在于模型本身的能力,而在于模型是否掌握实时、完整的业务上下文。文章以一笔供应商付款为例:发票与采购订单匹配,金额在预算之内,供应商也已在系统之中,所有检查全部通过,但决定仍然是错的,因为合同在昨天已经到期。

文章指出,AI代理可以在它掌握的信息范围内做出完全合乎逻辑、却依然错误的决定,因为业务环境已经在其周围发生变化。过去几年,企业AI的讨论主要围绕模型展开,关注哪个最聪明、哪个最高效。当AI主要充当助手时,这种关注是合理的:助手负责查找和分析信息,或总结数据集,再把结果交给人类处理。

但文章认为,人工复核并不是可靠的防线。人们可能倾向于接受语气自信的输出,或直接盖章认可系统的建议,使助手的错误答案直接进入一个有实际后果的决策。AI代理把风险进一步放大:它可以更新客户记录、批准请求、触发工作流,或在模型与每个具体动作之间没有人工介入的情况下,做出重要的业务决定。

文章因此提出,企业需要把问题从“哪个模型最好”,转向“模型周围的环境是什么”:代理能访问哪些数据,受哪些规则约束,被允许改动什么,以及它是否拥有足够的上下文来判断什么才算合理的决定。当系统能把一个有缺陷的答案转化为现实动作,修改记录、批准交易,或在任何人察觉之前把流程推向错误方向时,这些问题会变得更加紧迫。

文章给出的部分答案是让AI获得更多业务访问权限,但强调要区分可见性与权力。如果代理要代表企业行动,它需要看到组织的目标、规则以及任务的当前状态。这种访问不必是不受限制地开放一切,但要确保它能在实时状态下看到正确的信息,而不是等待下一次训练更新。文章把这一原则概括为“广泛的上下文,狭窄的权限”:代理可能需要理解客户、交易、工作流和已经发生的事情,但这不代表它可以随意改动这些内容。

文章认为,运营上下文正在成为差异化因素。许多企业仍以零散的方式训练AI代理,指望不断投入公司文档,代理就能逐步吸收运营业务所需的上下文。文章指出这种做法有其上限:一份文档可以告诉代理某条规则的内容,但在大多数业务中,规则存在例外,而且会定期更新,旧文档很快会变得具有误导性。如果AI从过时的材料,或从规则被以不同方式应用的案例中学习,就可能对企业实际如何运作形成错误理解。

文章提出“把上下文放在核心”的做法,即把AI置于企业的核心运营平台之中,让它扎根于企业记录承诺、应用规则和执行交易的系统。这样,代理得到的不是组织的碎片,而是正在发生什么、接下来应该发生什么的更完整图景;它也不只是拿到一份规则清单,还能看到这些规则在业务中实际如何被应用,从而判断哪些规则适用于特定情形、规则是否仍然有效、以及自己是否有权采取行动。

文章同时说明,这并不意味着每个AI应用都必须位于同一个地方。大型组织总会有更庞杂的技术资产,不同的应用和服务需要协同工作。更重要的是拥有一个可信的核心,把AI理解组织运作方式所需的数据、规则、权限和历史汇集起来。文章认为,这比在企业各处分散大量孤立的AI工具、每个工具只基于自己的局部信息运作,是更强的起点。