据SiliconANGLE报道,Super Micro Computer公司解决方案管理总监Ben Lee在AI数据管道论坛上表示,AI工厂的建设正从单纯追逐图形处理器(GPU)数量,转向以数据管道为起点进行规划。他称,客户过去只关注计算资源,但“最近我们发现,人们需要开始从数据角度来看问题”。这一表态由theCUBE在SiliconANGLE Media的直播工作室播出,讨论内容涉及数据管道、全栈验证和专门部署团队如何帮助客户更快让AI工厂投入运行。
Lee表示,Supermicro的客户往往在GPU集群搭建完成后才发现数据问题。今年固态硬盘和内存价格大幅上涨,使客户在确定存储集群规模时犹豫不决,但已投入计算部分的资金让他们几乎没有选择。Supermicro现在与Vast Data等合作伙伴一起,将存储与计算同步规划。Lee说:“我们仍然讨论GPU工作负载、确定GPU集群规模,我们知道这非常重要。但现在我们与VAST这样强大的合作伙伴合作。”
Supermicro将AI工厂视为一台大型计算机,并主张对其承担单一责任,这一思路也延伸到与Broadcom在AI工厂管理方面的合作。相关方案覆盖服务器、与ScaleFlux等伙伴合作构建的存储,以及该公司称可从5兆瓦扩展到1吉瓦的数据中心积木式解决方案。Lee指出,随着部署规模扩大,基础工作最为重要。“要完全验证,因为每一个小问题都会给整个大型集群造成大问题,”他说,“所以你必须真正深入到验证的每一个细节,下到组件级、系统级,再到机架级和集群级。”
这种严谨程度如今决定着AI工厂的部署节奏。据Lee介绍,Supermicro用120天让xAI的液冷Colossus-1集群上线,期间由一支“老虎团队”协调供应链、机架和现场工程工作。他说:“接下来我们谈部署时间,更重要的是投入运行的时间。这非常重要,因为当你开始投入资金,并且必须以某种方式向Supermicro付款时,你希望看到整个系统或整个集群在非常非常短的时间内上线。”
据SiliconANGLE报道,ScaleFlux公司赞助了theCUBE的这一环节,ScaleFlux及其他赞助方对theCUBE或SiliconANGLE的内容没有编辑控制权。