英伟达在截至7月26日的季度实现营收962亿美元,并对当前季度给出1080亿美元的营收指引。公司首席执行官黄仁勋在声明中表示:“AI已经到达拐点,正在做有用的工作,其token具有生产力和盈利能力。现在,算力就是收入。AI基础设施建设正在全速推进,全面投产的Vera Rubin正是为这一刻而生。”
在亮眼财务数字背后,AI基础设施正面临物理极限。现代NVLink级架构单个机架的功率密度最高可达140千瓦甚至更高,这对新建的集中式大型数据中心而言尚属可控工程,但当AI从集中训练扩展到分布式推理、自治系统和企业运营时,现有边缘设施无法承受现代AI机架的重量、散热和功率密度。
据SiliconANGLE分析,英伟达的下一个数十亿美元市场并非在沙漠中建设更大的AI工厂,而是将AI横向扩展域延伸到传统机架系统无法部署的场所。电信中心局、工业园区、区域设施和企业数据中心拥有总计约30吉瓦的电力容量,但典型电信站点或企业设施的单个机架热功率和电功率上限仅为30至50千瓦,无法直接部署140千瓦的AI机架。
为解决这一密度错配,基础设施架构师正在改变思路,不再将物理机架视为计算机,而是将140千瓦的算力单元分散到四至五个30千瓦的机架中,通过高速网络横向扩展结构互联。光学互连在带宽和距离上优于铜缆,使地理相邻的物理节点在逻辑上表现为一个统一的低延迟AI系统,从而无需客户拆除设施或花费数百万美元改造供电系统。
这种架构颠覆了传统部署范式,按照经典颠覆理论,颠覆性架构并非在高端环境与现有巨头正面竞争,而是进入现有巨头无法进入的领域建立滩头阵地,再向上扩展。高速网络分解创造了一种市场扩张策略,运营商无需替换现有超大规模基础设施,即可实现原本不可能的全新企业和分布式部署。
分析认为,这一架构突破将开启三大市场转变。电信运营商可将分解式AI算力注入区域中心局,从单纯的传输服务转向智能服务;企业可在本地部署“AI前哨站”;电力资产持有者也有望将闲置容量变现。英伟达正在将AI工厂从数据中心解放出来,推向分布式边缘。