据SiliconANGLE 10月27日报道，在加州圣克拉拉举行的CASPA CEO峰会上，多位半导体和AI基础设施企业高管表示，AI基础设施硬件正在变成一项系统级工程，单颗芯片的速度已不足以定义AI建设，机架间的光链路、内存、存储和电力系统共同决定GPU能否持续运转。该峰会为首次举办，纪念美国华人半导体专业协会成立35周年。

西部数据首席执行官Irving Tan在峰会期间接受theCUBE Research的John Furrier采访时说，外界对AI的关注多集中在计算和内存，但“AI是一个数据系统”，最终需要整个生态协同并同步推进。他提出数据应按热、温、冷分层分布在云、边缘和设备上；报道援引IDC数据称，未来三年生成的数据量预计增至700ZB以上，为目前的三倍。西部数据预计，未来五年数据存储需求复合年增长率至少为25%。

Semtech总裁兼首席执行官Hong Hou表示，连接已成为AI数据中心的瓶颈。该公司为光收发器和铜缆提供芯片，这些部件把数千颗AI处理器连接成一台计算机。任何链路抖动都可能迫使任务重启，因此连接质量直接影响GPU正常运行时间和收入。超大规模客户希望以更低功耗获得更高带宽，以便把数据中心固定电力预算更多留给计算。

Rebellions联合创始人兼首席执行官Sunghyun Park说，代理程序全天候消耗token，使推理时代的关键指标从原始teraflops转向每美元每瓦性能。机架系统下一步将按工作负载定制，区分延迟敏感、吞吐密集或能耗受限等类型。由于模型每隔几个月就会变化，Rebellions设计更灵活的硬件，并把网络视为上下文窗口扩大后的下一个瓶颈。

在芯片制造环节，Lam Research创始人、Multibeam首席执行官David Lam认为，摩尔定律正接近极限，把逻辑、内存和输入/输出芯片组合起来的先进封装正成为行业驱动力。Multibeam把电子束柱从80厘米高缩小到记号笔大小，使多列电子束可以并行写入晶圆。由此实现的无掩模光刻避开掩模版尺寸限制，而这一限制此前迫使大型量子和AI芯片拼接制造。

ScaleFlux首席商务官Greg Ernst表示，内存墙可能五年内都难以解决。即使一个80亿参数模型服务多用户，所需内存也远超高带宽内存容量。Compute Express Link（CXL）可让多台服务器共享内存池；一些超大规模企业把旧DDR4模块复用于内存池，使这项技术重新获得关注。

Normal Computing联合创始人兼首席执行官Faris Sbahi指出，新建内存晶圆厂需要三到四年才能投产，主要供应商的内存产品到2028年预计售罄。这家初创公司正从高带宽内存转向商品化LPDDR5，并在内存中直接执行部分推理计算，以降低成本和能耗。Unconventional AI Inc.则正在构建一台全集成机器，利用真实世界的时变物理特性进行计算，并以滚动的球体作类比。