据雷峰网报道,8月24日至25日,中昊芯英受邀出席在香港会议展览中心举行的首届全球独角兽大会,其CMO黄绪在“智能无界:AI重塑产业底座与全球化创新范式”圆桌对话中分享了国产TPU芯片的技术突破与商业化实践。大会由香港大公文汇传媒集团主办。

在大会现场,中昊芯英展示了该公司6月30日发布的新一代TPU架构AI专用算力芯片“须臾®”。据该公司介绍,该芯片单芯片混合精度浮点算力达896TFLOPS,综合算力性能是上一代芯片“刹那®”的3倍;8-bit推理算力达1792TOPS,对词元生成、上下文缓存、批量并发推理做专属优化。该公司已与众多国内领先大模型完成芯模联动深度算子调优,百万token推理成本只有海外GPU的35-50%。

黄绪在圆桌对话中表示,智能体热潮促使算力需求指数级攀升,AI行业进入词元时代,真正的差距不在于消耗token的总量,而在于每单位算力产出多少可执行、可验证、可创造实际价值的智能结果。AI芯片的竞争正在从“谁拥有最强算力”转向“谁能构建更适合大模型、智能体公司的研发和业务的专用计算体系,谁能提供最低的token成本”。

此次大会以“天生骐骥创领未来”为主题,聚焦人工智能、集成电路、生物医药、新能源、新材料、机器人等前沿领域。香港特区行政长官李家超、创新科技及工业局局长孙东、投资推广署署长刘凯旋等出席开幕式并致辞。

中昊芯英表示,随着“须臾®”量产落地、千卡万卡集群规模化运营及生态合作的纵深推进,公司将持续致力于高性能、低成本国产算力在千行百业的规模化落地,与产业伙伴共同推动国产算力底座走向更高效、更开放的全球化未来。