据SiliconANGLE 10月23日报道,戴尔科技销售高级副总裁凯尔·杜弗雷斯尼在纽约举行的戴尔科技纽约座谈会上表示,企业人工智能正进入成本敏感阶段,推理支出上升正推动企业重新权衡模型运行位置、所用模型以及数据控制权。

戴尔称,已有超过6500家企业采用其与英伟达更新相关的Dell AI Factory。杜弗雷斯尼说,token经济正在发生急剧变化。他提到,仅在过去三个月,情况从80%的token由前沿模型生成,变为全球80%的token由开放模型生成。“为什么?因为成本。所有人都在谈论token经济学。”

杜弗雷斯尼表示,推理增长现在快于训练,尽管两者都在快速扩张。这一变化正在改变AI工作发生的位置,戴尔看到推理在数据产生的地方运行,包括云端、数据中心和个人电脑,并越来越多地延伸到边缘。他说,企业负责人正在问,推理成本变得很高,如何在不抑制创新的情况下降低这些成本。

成本上升也带来控制权问题。杜弗雷斯尼说,企业必须决定是否外包数据和差异化,现在它们会根据工作负载运行的位置、使用的模型以及数据所在位置来为AI定价。戴尔最新AI Factory与英伟达更新,围绕帮助客户在可控基础设施上取得结果展开。他说,已实施这些架构的首席财务官都在说token成本正在激增,并追问如何降低成本。

供应端同样影响成本。杜弗雷斯尼估计,明年进入市场的内存将增加约20%,而需求将增加约200%,内存价格正在推高科技成本。戴尔通过协同规划应对,引导客户使用更易获得的组件,并提前分享未来成本上涨的信息。许多客户发现其资本成本低于组件通胀,因此选择提前购买。杜弗雷斯尼说:“不仅是能够提供技术,还要能够与客户分享未来会发生什么,以便他们今天能更好地决定资本使用。”

这次采访由SiliconANGLE Media的直播工作室theCUBE播出,杜弗雷斯尼与theCUBE Research的戴夫·韦兰特进行了交谈。SiliconANGLE同时披露,theCUBE是戴尔科技纽约座谈会的付费媒体合作伙伴,赞助商对theCUBE或SiliconANGLE的内容没有编辑控制权。