据雷峰网报道,在2026秋季央国企CIO及数科公司高管峰会(第19届)上,硅基流动解决方案总监唐安波提出“Token生产力=产能×利用率×交付质量”,并介绍央国企大模型规模化落地的推理基础设施实践。雷峰网另一篇报道显示,并行科技行业事业部总经理吕昇亮表示,超算需求正从高校科研转向企业,算力使用从整机租赁转向按需服务。两家公司的实践指向同一变化:算力产业正把竞争重心从硬件规模转向Token产出效率与服务能力。

唐安波称,AI应用处于爆发式增长早期,Token消耗呈指数级增长,企业既要适配模型与算力架构变化,又要控制成本。硅基流动试图打通算力到Token的转化层:统一纳管算力,通过自研推理引擎提升模型运行效率;既在公有云建设Token工厂,也帮助央国企在内部建设Token工厂。其公式中,产能由芯片硬件能力和模型优化水平决定,利用率依靠流量治理与算力智能调度,交付质量包含推理精度、工具调用成功率和SLA稳定性。

硅基流动据此设计模型网关、模型服务平台、高性能推理框架和算力调度四层解耦架构。模型网关承担计量、计费、鉴权,并按响应时间、成本等目标路由请求;模型服务平台把模型上下架和部署最佳实践产品化,已适配近百款模型;推理框架与华为云、沐曦、摩尔线程等合作优化国产芯片上的模型服务。据其介绍,在华为云CloudMatrix超节点集群上,DeepSeek-R1单卡Decode吞吐量超过1920 tokens/s;在摩尔线程MTT S5000上部署DeepSeek-V3,单卡Prefill吞吐超过4000 tokens/s、Decode吞吐超过1000 tokens/s。

央国企案例中,一家集团原有约50台机器,各分子公司申请机器部署模型,形成四五十个模型实例,部分机器白天用、晚上不用。硅基流动将重复模型收敛到约十个,把按机器分配改为Serverless模型服务,统一调用API。同样约50台机器因此可腾出多台部署GLM-5.2、DeepSeek-V4-Flash-0731等大参数模型。测试中,单并发到较多并发输出速度保持在30 tokens/s以上,相同模型对比性能提升40%至100%;一个Qwen模型每百万Token成本从一百多元降至十元以下。

并行科技方面,吕昇亮介绍,五六年前科研与高校场景占其业务超过70%至80%,今年需求更多来自企业。IDC发布的报告预计,2026年中国智能算力规模达2576.5EFLOPS,同比增长87.9%,2030年突破万EFLOPS。企业自建集群投入高、运维重,高校超算中心资源有限,曾有车企CAE工程师遭遇仿真任务排队12天起步。

并行科技已接入约63个算力中心,其中四十多个智算中心、十几个超算中心,通过智能调度整合为算力池;其应用运行特征分析软件希望四小时内判断客户应用类型,匹配性价比最优资源。公司推出“夕发朝看”模式,白天工程师分析结果,夜间继续计算并按需计费;同时联合合作伙伴推出面向推理的Token工厂,只做IaaS和PaaS,不介入客户模型和应用。吕昇亮称,汽车制造和新能源贡献其事业部近40%营收,部分仿真需512个甚至上千个核心同时工作。实时性要求高的场景需靠近用户部署,AI辅助编程等可容忍延迟的场景适合西部低成本数据中心,中立算力供应商因此有空间。