Salesforce公司9月10日预览了两款用于构建和管理人工智能代理的产品,分别名为Enterprise AI Harness和AI Control Plane。据SiliconANGLE报道,这两款产品旨在帮助客户提升AI代理的可靠性、安全性并集中监控其运行状况。
开发者通常通过为大型语言模型添加提示词、数据库连接器等技术资产,将其转化为AI代理。用于定制代理的这些技术资产被统称为harness。Salesforce此次推出的Enterprise AI Harness由多项技术组成,公司称其中许多底层技术已在其云服务中提供,其余功能将从2028财年年初、即明年2月开始陆续推出。
Salesforce表示,Enterprise AI Harness包含六大功能集合,其中一半聚焦于AI代理执行任务时使用的业务数据。第一个功能集合名为Trusted Context,汇集客户记录、产品可用性信息等数据资产。Salesforce称还将支持“实时信号”,在销售场景中,实时信号通常指买家的某种行为,要求企业迅速调整外联策略。
另一组功能用于确保AI代理使用的数据准确。Salesforce计划提供多项信息质量控制手段,包括数据血缘工具。网络安全团队则将获得监管能力,可以规定哪个代理能够使用哪些数据集以及如何使用。
企业常在AI代理项目中使用多个大语言模型以优化成本:前沿模型驱动处理复杂任务的代理,较简单的代理则向更小、更便宜的模型发送请求。Enterprise AI Harness将包含一套“智能模型路由”机制,根据准确性和成本等参数,自动将代理请求发送给最合适的大语言模型。
大语言模型具有非确定性,同一提示词输入五次可能得到五个不同答案。Salesforce称,Enterprise AI Harness将让客户能够为AI代理配置确定性的可靠性控制,同时简化代理连接外部应用的流程。
Salesforce预览的另一款产品名为AI Control Plane。公司称,该产品将让管理员能够集中监控AI代理的性能和推理成本,并有助于确保代理遵守网络安全政策。
Salesforce总裁兼首席平台与工程官罗汉·库马尔表示,模型会不断变化,智能将日益无处不在,企业的差异化在于其带给这些智能的可信专有上下文,首先是客户上下文,以及将这种上下文安全转化为行动的能力。他说,这正是Salesforce通过Enterprise AI Harness所构建的东西。