据SiliconANGLE报道,AI数据管道论坛将于10月13日在加利福尼亚州圣何塞举行,该论坛在OCP全球峰会期间举办。SiliconANGLE Media旗下直播工作室theCUBE将提供独家报道,由theCUBE Research执行分析师John Furrier主持。
报道称,人工智能基础设施的竞争已不再只是制造更快的芯片。随着AI集群密度提高和分布式推理扩展,瓶颈正转向为芯片持续供给数据、通过高速网络连接,以及在日趋严格的功耗和冷却限制下运行。这使数据中心设计从优化单个组件转向协调整个系统,数据在计算、存储和网络基础设施之间的流动成为一项关键架构挑战,并对存储、内存、网络和物理基础设施提出新要求。
theCUBE Research首席分析师Dave Vellante在近期分析中指出,内存约束、数据移动效率低下以及推理经济性正成为日益突出的问题,存储在AI管道中承担更主动的角色。这些压力也在影响半导体开发。据SiliconANGLE报道,ScaleFlux于今年7月推出PCIe Gen6固态硬盘和CXL内存控制器,目标是在管理功耗的同时提高吞吐量和内存容量。
ScaleFlux联合创始人兼首席执行官Hao Zhong表示,AI基础设施正在推动对更高带宽、更大内存容量和更低功耗的前所未有的需求;随着FC6116和MC600的推出,ScaleFlux正将其硅平台扩展到PCIe Gen6时代,为客户提供构建更快、更高效、更灵活的存储和内存系统的模块。
Dell Technologies也在推进机架级架构,以适应不断增长的计算密度和运维要求。Dell PowerEdge AI架构与系统开发工程总监Sarat Krishnan在此前接受theCUBE采访时说,数据中心有的需要从顶部送入冷却,有的需要从底部送入冷却,还有各种规格的电源线,如今已经学会构建能够快速适应这些需求的模块化机架级基础设施。
报道说,这些进展构成AI数据管道论坛的讨论背景,论坛将探讨开放标准和模块化设计如何在不引入新瓶颈的情况下支持下一代AI系统。Furrier将在直播中与ScaleFlux、Cerebras、Cisco、Dell等公司高管对话,话题涉及存储、内存、高速网络、液冷和配电,以及开放标准的作用。直播结束后,相关内容可在theCUBE网站及YouTube频道点播。