据科技媒体SiliconANGLE报道,芯片初创公司Volantis Inc.于10月1日宣布完成8800万美元A轮融资,资金将用于开发以光互连为基础、面向人工智能推理的芯片系统。
本轮融资由天使投资人Lachy Groom与Abstract Ventures领投,另有六家以上投资方参与,包括凯鹏华盈董事长John Doerr,以及曾主管英特尔人工智能产品集团的Naveen Rao。Volantis的创始团队同样具备行业背景,公司工程师此前任职于英伟达、博通等主要芯片厂商,其技术成果包括CoWoS的首次商业化实现,这项互连技术如今广泛用于图形处理器。
GPU处理核心与HBM显存之间的数据传输速度是影响AI模型性能的主要因素,通常以内存带宽衡量,带宽越高,推理速度越快。目前一块GPU能搭载的显存模块数量受限于连接显存与处理核心的导线长度,这些导线最长约5毫米,显存模块必须布置在该范围内,可容纳的模块总数因此受到严格限制。
Volantis的芯片架构采用光互连设计,互连距离超过200毫米。据公司称,延长的传输距离使单个AI加速器可以配备220个以上的显存芯粒,内存带宽由此显著提升,达到现有加速器的30倍以上。光互连以光的形式传输数据,光源由名为VCSEL的微型器件产生。VCSEL由量子阱和两面反射镜构成,量子阱将流经主芯片的部分电能转化为光,反射镜负责放大。与光网络设备常用的激光器相比,VCSEL更易制造、成本通常更低,还可采用砷化镓化合物生产,这种材料比制造微型激光器的常用材料更易获取。
Volantis将以名为A-1的数据中心推理一体机形式交付芯片。该系统体积约为标准服务器机架的三分之一,配备10TB内存和每秒250Tb的内存带宽。公司估计,运行参数规模达20万亿的模型时,该系统每秒可处理最多1万个token。
Volantis联合创始人兼首席执行官Tapa Ghosh在博客文章中写道,这将实现实时的前沿推理,重新启动规模定律,并让整个代码库进入上下文窗口;作为起点,可以想象一个编码智能体用30秒而不是30分钟完成一项任务。Volantis计划明年开始出货A-1系统。