据SiliconANGLE报道,在Supermicro开放存储峰会上,来自Supermicro、Vast Data、Kioxia和Crusoe的高管表示,面向人工智能设计的云服务商(即neoclouds)正在重塑企业基础设施,并推动硬件、存储与算力供应商展开新的合作模式。
Supermicro高级产品经理Junxia Zhou表示,代理式AI正进入生产阶段,推理成为主导工作负载。推理对延迟高度敏感,因此neocloud提供商将AI部署在更接近最终用户的位置。如果大规模部署基础设施,需要使用经过验证、可在多个地点复制的设计或配置。
Crusoe高级产品总监Omar Lari介绍,该公司采用“能源优先”策略,利用风能和天然气等独特能源为数据中心供电,并在此基础上堆叠AI基础设施服务。Crusoe与Vast合作,利用其可分解共享一切架构(DASE)提供高性能、低延迟的存储平台。Lari说,他们的主要目标是保持简单直接,不提供大量功能重复的服务,让客户能够运行训练任务,并快速将研究项目转化为创收的推理项目,在市场上不断重复这一循环。
Vast Data战略计划副总裁Phil Manez认为,neoclouds的崛起强有力地证明了传统架构无法运行AI。超大规模云厂商背负着大量技术债务,很难转身。如果希望积极进军AI,成功之路是选择懂得如何构建此类基础设施的供应商,这种基础设施必须为AI专门设计,否则无法扩展。
Kioxia SSD营销与业务发展高级总监Anders Graham指出,Crusoe等neoclouds正在推动前所未有的需求。他们构建了专为AI设计的基础设施,大型语言模型是主要需求驱动因素。Crusoe还使用Kioxia的闪存和固态硬盘来提高能效。闪存和企业级SSD的合计需求首次超过移动和客户端应用需求,这一时间比预期早了好几年。
在制约因素方面,Zhou表示,电力可用性是客户建设数据基础设施时的首要考虑。随着现代GPU功耗持续上升,单纯风冷在大规模场景下变得困难且昂贵。客户正采用液冷技术,以提高电力效率,支持更高机架密度并降低运营成本。Graham提到,高容量四层单元(QLC)技术将缓解内存和存储瓶颈。
Lari表示,计算、存储和基础设施之间的界限已经模糊,合作方需要不断评估哪些组合能为客户带来最大价值。他说:“我们一直在玩一场高风险的扑克游戏,确保把赌注放在正确的位置。”他与Supermicro、Vast和Kioxia等供应商合作,以确保在需要时获得存储。