苹果、小米和英伟达近期发布的新品不约而同地将升级重点放在内存带宽上，以应对大模型运行时的数据搬运瓶颈。苹果新发布的Mac mini和Mac Studio分别搭载M6、M5 Pro和M5 Ultra芯片，其中顶配M5 Ultra的统一内存带宽达到1.2TB/s；小米公布的端侧AI加速芯片玄戒O100将带宽做到1.22TB/s；英伟达旗舰显卡RTX 5090凭借GDDR7显存将带宽提升至接近1.8TB/s。

尽管三家厂商的芯片架构路径不同，但目标一致：让内存里的数据更快地送达计算核心。在AI大模型的自回归生成阶段，计算单元每生成一个新token，都需要完整读取模型参数权重，内存带宽不足会导致芯片算力空转。这种现象在计算机体系结构中被称作“内存受限”或“内存墙”。

内存带宽的提升并非单纯堆砌容量，而是需要更宽的位宽、更高频的接口以及先进封装工艺。AI服务器广泛采用的HBM高带宽内存通过垂直堆叠多层DRAM芯片制造，难度和成本远超传统内存。TrendForce调查数据显示，由于AI数据中心对HBM和高规格服务器DDR5需求暴增，三星、SK海力士和美光等存储巨头正将先进晶圆产能向企业级倾斜，消费级PC DRAM供给受到挤压，即便在传统淡季，合约价格依然持续上涨。美光去年底宣布逐步退出消费级内存品牌Crucial业务，国内SK海力士第三方品牌授权店近期也终止运营。

针对内存瓶颈，芯片厂商给出了不同解法。英伟达通过GDDR7配合超宽位宽实现高带宽；小米玄戒O100采用晶圆级垂直堆叠技术，将DRAM晶圆直接压在NPU计算晶圆上方，缩短物理距离；苹果依靠统一内存架构避免CPU与GPU间的数据复制，同时通过雷雳5接口支持多台设备组成集群，4台Mac Studio组建的分布式推理集群能实现接近单机3倍的吐字吞吐。

更前沿的方向是存内计算，即将部分计算单元直接置于内存颗粒附近，减少数据回传。这类架构目前在通用性和编译器生态上尚未成熟，但反映出芯片设计正转向减少数据搬运的方向。

“内存墙”概念最早由计算机科学家William A. Wulf和Sally A. McKee在1995年的论文中提出，他们指出处理器算力增速快于内存带宽增速，剪刀差持续扩大。三十年过去，大模型的爆发将整个行业推到了这堵墙前。衡量芯片性能的标准也不再只是TOPS、TFLOPS等算力指标，数据能否被及时送达成为新的关键。