据SiliconANGLE于2026年10月14日刊发的采访,微软首席架构师萨米尔·拉贾德尼亚在AI Data Pipeline Forum上表示,微软探索团队正在为Azure评估系统级技术,把内存从单台服务器中释放出来,做成可按工作负载需求动态分配的资源,以应对AI数据中心内存短缺。

拉贾德尼亚说,内存已成为AI数据中心最稀缺的资源,超大规模云厂商正在重新思考如何分配内存。可组合内存把容量池化到单台服务器之外,再按需分配给工作负载,正成为应对这种挤压最实际的答案之一。在AI工厂中,图形处理器因等待内存和存储而闲置的压力已经显现。

他说,微软探索团队寻找的是系统级技术,目标是在Azure范围内把内存变成共享、动态分配的资源。拉贾德尼亚称:“未来几年正在发生或将会发生的主要事情之一是组合式架构。最初的想法是所有东西都锁在CPU或GPU后面。内存曾是CPU或GPU的仆人。现在内存被视为另一种非常重要的资源。”

拉贾德尼亚说,随着AI需求超过生产,内存供应已经收紧。据HPCwire报道,这一变化正在改写AI推理的规则。对运行在Azure这种规模的云来说,闲置容量代价高昂。Azure如今像公用事业一样为达美航空、沃尔玛等公司运行,因此任何新方法还必须保持可靠和安全。他说,当前媒体上可见内存短缺,所以必须更有效地使用内存,确保内存流向有需求的工作负载;如果内存被困在不使用它的工作负载后面,就是在浪费宝贵资源。

推理已成为业内最大的工作负载之一,并同时撞上两重上限。被问及如果没有约束会构建什么时,拉贾德尼亚描述了一种能够远距离连接、且没有电力或延迟惩罚的内存。他说:“AI推理受电力限制,然后受内存限制。所以如果我有愿望清单,我会想要一种能以尽可能低的功耗在长距离上连接的内存,以及无限量的内存。”

企业面临的问题则更窄。拉贾德尼亚指出,云提供商必须服务每一种工作负载,而多数公司只运行少数几个关键应用,这些应用的特征已知,因此设计问题更可控。他的建议是找出前两三种工作负载,并围绕它们构建系统。他说:“现在一切都是我们所说的垂直整合的游戏。工作负载、系统、软件、芯片,全部合为一体。即便在企业层面,你也必须这样做。”

要让这些在规模上运转,还取决于内存与处理器之间的连接,包括拉贾德尼亚归为XPU的专用加速器。一旦内存离开服务器机箱,传输距离就决定铜缆是否足够,还是需要光学连接。微软长期向Open Compute Project贡献设计,并将在今年的Open Compute Project全球峰会上展示其AI基础设施工作。拉贾德尼亚说,单个组件的创新意义不大,除非整个生态系统同步前进。他说:“内存组件侧有很多伟大的创新,XPU和CPU侧也有很多伟大的创新,但你怎么把这两者与内存连接起来?这就是互连非常重要的地方。光学领域正在发生的一些事情将很重要,这些将帮助我们构建那种可组合内存。”