据科技媒体SiliconANGLE报道，随着人工智能代理从实验工具进入生产系统，企业治理不再只满足于知道代理做了什么，而需要证明代理被授权做什么、为何被允许执行某项动作，以及权限在跨多个代理和系统流转时是否仍然有效。Traefik Labs首席执行官苏迪普·戈斯瓦米和SUSE集团主权战略负责人安德烈亚斯·普林斯在theCUBE Research的AppDevANGLE播客中讨论了这一变化。

文章称，代理系统在受监管企业扩散，使安全、可审计性和主权要求更加突出，这些要求可能限制企业对外部软件即服务控制平面的依赖。传统企业可观测性通常侧重事后还原，日志、追踪和仪表盘可以显示涉及哪些系统以及故障发生在哪里。代理式人工智能带来不同的治理问题。

一个自治系统可能从人那里获得授权，把任务委托给另一个代理，调用工具或应用程序编程接口，再把部分任务传给另一个系统。每一步都可能改变授权范围。文章认为，仅靠身份和凭证不足以应对。戈斯瓦米说，一个代理拥有某些凭证，并不代表它在当前情境下被允许执行这一具体动作，简单凭证无法回答这个问题。

文章将这一挑战类比为物理访问控制：员工徽章可能授权进入大楼，但不会自动授予批准金融交易或访问组织内所有系统的权限。因此，人工智能治理需要转向情境化。政策不仅要依据代理身份，还要依据任务、环境、委托链和请求所涉及的操作条件，决定代理能做什么。治理由此从事后重建转向实时授权和证明。

当代理开始把工作委托给其他代理时，复杂性进一步上升。传统企业访问模型主要围绕人、应用和预定义服务账户设计。代理系统引入机器对机器的交互链，权限可以以机器速度在编排器、子代理、应用程序编程接口和工具之间移动。普林斯把这一变化比作持续集成和持续交付系统的演进。软件团队从手动生产发布转向自动化流水线，要求组织把审批、安全检查、密钥管理和发布策略编入交付流程。普林斯说，现在需要以同样方式重新思考，更重要的是用代码来表达。

文章称，随着企业代理数量增长，这种控制尤其重要。普林斯描述，一名高管最近发现，一个工程组织创建了大约8000个代理。他说，如果企业不知道创建了多少代理，也就不知道它们在做什么、功能是什么。这意味着代理激增可能迅速超过传统治理模型。企业最终可能需要类似软件供应链控制的代理控制，包括明确身份、委托授权、策略执行，以及显示每个系统如何行为的证据。

定义政策只是问题的一部分。企业还需要在代理实际与应用程序和基础设施交互的地方执行这些政策，这使网关层的位置日益重要。戈斯瓦米认为，人工智能治理系统需要同时捕获被允许和被拒绝的动作。展示系统成功阻止未授权动作，与展示授权任务正确完成同样重要。他说，企业希望展示护栏正在起作用的证明，因此系统应允许和拒绝，并把整个过程放在情境中。文章还提到，执行层可以向治理政策本身提供反馈。