近日,DeepSeek全面开源推理框架DeepInfer。据雷峰网报道,截至10月22日,完全由AI编写算子、无人工逐行调优的ForgeKernel同时登顶两个算子评测榜:英伟达主场的SOL-ExecBench FlashInfer-Bench合集第一,以及昇腾CANN官方仓库维护的CANNBench A3硬件榜第一,基准加速比1.835×,领先第二名25%。这一进展出现在DeepSeek开源看家算子的同一周,算子优化竞争从人工手调延伸至AI自动迭代。

DeepSeek此次开源的DeepInfer,是在模型权重和FlashMLA、DeepGEMM等算子库之后,进一步把模型运行的链路开放。材料显示,FlashMLA有工程师在芯片上逐行手调的版本,算子性能跑到硬件极限的90%以上,这也是人类手艺目前在部分芯片上达到的极限成绩。

这个极限在同一周被AI刷新。ForgeKernel完全由AI编写算子、无人工逐行调优,并在上述两个榜单同时排名第一。名次之外,在DeepSeek v4.1 Flash的算子上,相比DeepSeek开源的英伟达版本,ForgeKernel也通过从0用AI迭代的方式实现了性能超越。

国产大模型的竞争正从模型层延伸到算力层。再强的模型,最终都要基于算子在芯片上执行。同一个模型、同一块芯片,换一套更优的算子,有时会带来数倍的性能提升。算子效率决定同样的显卡能跑多快,也决定每个token的价格。

DeepSeek的开源与算子优化榜单上的竞争,最终都指向同一个方向:让国产智能在每一块芯片上都跑得更快。