10月26日,据量子位报道,沙利文和头豹研究院发布的《中国全栈AI云服务市场报告2026H1》显示,2026年上半年中国Neocloud(新云)赛道近一半份额由商汤科技旗下AI基础设施平台商汤大装置(SenseCore)获得。该赛道从成立之初即围绕AI构建,与综合云厂商先有云、再叠加AI能力的路径不同。

报道称,Neocloud在海内外市场升温。Synergy Research统计,2025年全球Neocloud市场规模为250亿美元,预计2031年接近4000亿美元;CoreWeave积压订单已达1042亿美元。马斯克则公开表示,过去几周债务市场对在AI数据中心之外没有可观收入的公司几乎关闭融资大门,并预计200多家Neocloud将出现大规模倒闭和兼并。

需求结构也在变化。沙利文报告称,在Token生成速度相同的情况下,Agentic AI对算力的要求比传统大模型高10倍以上。国家数据局统计显示,今年3月中国日均Token调用量已超过140万亿,两年增长一千多倍。商汤大装置CTO宣善明称,去年行业主要训练模型,今年春节前后Agent应用带动Token需求上升。商汤大装置日均Token从年初约4000亿增至7月底2.42万亿,9月底达6万亿,计划第四季度达到日均10万亿。

与海外Neocloud主要面向训练、依赖高端GPU租赁和融资扩张不同,中国市场的算力供给更分散,国产芯片路线多元,软件生态仍在成熟。报道称,商汤大装置从2018年开始适配和调优国产芯片,采用PD分离,让国产卡承担Prefill、高端GPU承担Decode,并通过KV Cache传输衔接。商汤大装置称,该方案整体推理性价比达到主流高端GPU的1.25倍;超长上下文等请求仍由高端GPU兜底。跨域PD分离和AF分离仍在验证或预研阶段。

在电力成本方面,商汤大装置今年WAIC发布算电协同Agent,联动能源大模型和宁德时代储能系统,每15分钟预测、每5分钟修正,调整任务运行时段和储能充放电策略。今年7月上海电网发起需求响应时,临港数据中心在两小时内让出75%的用电容量。商汤大装置称,单位电力成本的Token产出提升80%,平均电费比同地区IDC低10%,并提出TPW(Tokens Per Watt)指标。

Token的使用场景也在扩展。报道称,商汤大装置除服务自家模型外,已为多家外部基础模型厂商提供批发式服务,并通过FDE(前线部署工程师)进入行业客户现场。上海市规划资源局量子城市项目中,双方共建6000亿参数的“云宇星空大模型”,覆盖知识检索、图纸理解、空间分析和报告生成等流程。商汤总结的“AI123”交付法则为1天澄清需求、2天产出Demo、30天稳定版本上线。宣善明表示,FDE希望把标杆案例沉淀为标准产品,而非成为人力密集型业务。