9月30日,DeepSeek正式开源面向华为昇腾算力平台的基础设施组件,涵盖TileLang高级语言编译工具、高性能计算库与分布式通信库,与该公司此前面向GPU平台开源的组件一一对应。据量子位转载、华为提供的信息,昇腾方面称,此次开源为算力平台提供了新的选择。
本次开源的组件包括DeepGEMM、FlashMLA、TileKernel、DeepSelect等高性能昇腾算子库,以及DeepEP分布式通信库。昇腾提供稳定、开放的Ascend C API接口,使用户能对访存路径及计算流水线进行深度调优,完成高性能算子开发。昇腾还依托开放Ascend C编程接口与PTO ISA底层指令体系,支持DeepSeek的TileLang编程开源工作。该生态兼顾不同开发范式,既支持资深开发者手工调优,也支持TileLang等高级语言编译对接。
华为向DeepSeek团队提供了联合定义的昇腾超节点SuperPoD Flex和UBL128组网方案,可实现128卡3.2Tbps单层交换Scale-up网络和256K卡两层交换Scale-out网络,支持超低时延推理和前沿基座模型的大规模训练需求。基于全互联的UBL128超节点,昇腾提供ASC-COMM高性能自定义通信编程库,支撑用户通信算子与通算融合算子高性能编程。DeepSeek团队开发的高性能DeepEP通信库涵盖EP、CP、PP、FSDP等模式下的通信算子,为更大模型向更大集群扩展提供支持,互联带宽实测达到Dispatch 375 GB/s、Combine 347 GB/s,接近硬件上限。
为支持开发者在昇腾950及超节点集群部署DeepSeek模型,华为将此次联合创新成果在CANN社区开源,包括大EP低延时推理部署、单卡和单机部署、大规模训练、超长文本KVcache池化与Agentic RL。面向大规模推理场景,基于EP32部署策略,offline推理模式下DeepSeek-V4.1-Flash不带框架纯模型性能可实现TPOT=5ms,每卡输出吞吐2469 tokens/s;TPOT=10ms,每卡输出吞吐5102 tokens/s。上述数据基于Offline推理模式采集,不包含Serving调度和框架负载均衡影响,ContextLength为128K,Dspark投机接受率为0.85。
华为昇腾平台表示,将与DeepSeek等前沿模型团队持续深耕芯模协同,进行联合创新,以AI算力底座承载模型能力,打通推理到训练全链路,打造开放、高效、易用的AI软件生态。