据美国科技媒体VentureBeat AI报道,企业AI的真正风险并不在于单个自主代理执行任务,而在于代理之间相互连接所形成的复杂链路。报道指出,这种复杂度以远超代理数量的速度增长,正在令多数企业AI项目陷入停滞。

企业通常不会只部署一个代理,而是部署成群代理。它们互相调用API,访问其他代理,并深入那些从未为机器决策者设计的应用。增加第二个代理,只会新增一条连接;增加到第十个,连接数可能增至数十条,因为任何代理都可能调用其他代理,而每次调用都可能触发另外的调用。复杂度并不随代理数量线性上升,而是随代理间路径数成倍增长。一个原本只涉及单一系统的支持工单,现在可能在人工介入前已历经四个代理,每一次交接都是无人审批的决策点。

当负责代理的人类失去线索,多数企业AI项目就会停滞。报道援引常见场景称,向安全团队询问哪些代理能访问哪些系统,往往无人能答;再追问某个代理在三步之前触发了哪个下游动作,同样没有答案。将治理视为清单式审批,即批准一个、登记一个、然后继续,被报道认为是一种错误思路。清单只检查单个时间点,而复杂度贯穿整条链路,靠一次性的审批无法治理链条。

报道具体指出了两大故障点。一是权限蔓延:某人为构建支持工单摘要代理而授予其广泛API权限,以免多花一个迭代周期做精细授权,但六个月后该代理就获得了通往支付系统的路径,且无人记得曾批准过此事。二是所有权稀释:五个代理参与同一工作流,步骤四发生故障时,没有人为这个链条上从未被指派的环节负责,因为组织架构到“部署代理”为止,从未落实“指定人类负责人”。

关于解决方案,报道认为必须先让每个代理拥有独立身份,即独立实体、注册名、自身范围权限,以及具名的人类赞助者。但仅有身份远不够,还需要跨越整个链路的实时监督,让人能看到代理做了什么、在下游触发了什么、轨迹在哪里结束,而不是每季度才有人拼凑一份报告。同样关键的是执行控制,即在不合规调用执行前将其阻止,而不仅是事后记录。能显示代理五分钟前越权的仪表盘只是监控工具,能预先阻止越权的系统才是治理。

报道总结道,企业认真对待代理责任,必须同时具备可视性、问责制和执行能力。真正风险从来不是单个代理完成它被构建去做的事,而是一百个代理同时这样做,并以未曾设计过的组合方式交互。能穿过这道复杂性墙的企业,将让规模与问责同步增长,而非相互取舍。