据TechRadar报道,Flexera首席营销官在9月22日发表的文章中警告,企业在快速采用人工智能时正面临AI支出失控和成本可见性不足的问题,用工资与AI许可证费用对比来判断节省并不可靠。
文章称,过去两年围绕AI的讨论多集中在工作岗位变化,但与企业客户交流时,另一种担忧正在上升。企业被要求使用AI、部署AI工具并寻找提速方式,董事会推动采用,高管团队发起项目,业务部门争相在竞争对手之前找到新用例。随后账单开始出现。AI不仅带来创新,还会生成发票。每一个AI决策和行动都有价格标签,完成一项任务需要推理、重试、规划、触发调用,并消耗数据与算力。如今AI已嵌入Microsoft Copilot、Google Gemini、SAP、Workday和LinkedIn等日常业务应用,计量表一直在运转。
文章认为,这形成了企业没有准备好的挑战。十年前云计算采用时,团队快速启动服务却缺乏治理、可见性和问责,成本增长快于预期,企业最终不得不引入新规则来了解使用情况、使用者和支出价值。AI带来类似挑战,但规模更大。AI不局限于一个团队或部门,营销、销售、产品和开发团队都在使用。AI能力越来越多地嵌入业务应用,企业也在构建自己的代理和工作流。高盛预计,到2030年,代理式AI将推动token消耗增长24倍。AI支出因此出现在各处。
很多组织仍不知道具体使用了哪些模型、哪些代理在消耗资源、哪些团队产生最高成本,也不清楚token消耗与特定业务成果、业务价值和真实投资回报之间的关系。文章称,没有这种可见性,企业就缺少治理、控制和问责的基础。当组织开始根据预计的AI节省做出人力决策时,缺乏可见性尤其重要。比较往往从工资和AI许可证开始,但许可证只是成本的一部分。真实成本包括token消耗、基础设施、数据平台、云资源、失败尝试、重试,以及验证输出和管理例外所需的人工监督。这些成本常分散在不同系统、团队和预算中,难以准确衡量。
文章指出,工资相对可预测,AI成本则不是。同一任务可能因为模型选择、提供上下文多少、系统重试次数和所需算力不同而产生很大差异。取消一个岗位并不自动转化为节省,费用可能转移到云消费、AI服务、基础设施成本,或转移到负责审查输出和管理例外的员工身上。没有成本可见性,企业不是在把AI与工资比较,而是在把工资与一个假设比较。
文章认为,答案不是放慢创新或放弃AI项目,而是企业领导必须理解AI在哪里创造价值、规模化运营要花多少钱,以及如何就采用做出知情决策。这要从可见性开始。组织需要看到业务中使用了哪些AI应用、代理和模型,token在哪里消耗,成本在哪里累积,以及使用如何对应到业务单元、产品和成果。只有到那时,企业才能开始做出优化决策。