Deepgram拟将语音AI模型原生运行于气隙笔记本电脑

据SiliconANGLE于10月12日刊发的报道，Deepgram技术项目经理尼克·曼在戴尔“AI领导力研讨会”期间接受theCUBE Research的约翰·弗瑞尔采访时说，该公司正把语音AI基础设施从云端延伸至本地部署和个人设备，最终目标是在气隙笔记本电脑上原生运行其模型。

曼说，Deepgram今年早些时候已将Flux模型扩展到10种语言。公司既要支持内部研究团队，也要服务数万名外部客户。据他介绍，Deepgram有45名研究人员，这些人“喜欢吃计算，大量计算，大量数据”。这一规模使基础设施成为公司扩展语音AI的关键条件。

曼表示，Deepgram进入市场已有13年，能够针对空中交通管制、紧急医疗服务等嘈杂环境调校模型。公司假定任何发布的模型很快会被超越，因此把每次发布都视为重新训练的候选对象。他说：“假设它训练了10次才达到发布时的水平，什么阻止我们用更好的数据重新训练它？”

这些模型也运行在Deepgram自有云之外。曼说，很大一部分客户自行托管模型；Deepgram与Fortanix公司的近期合作，把私有的本地语音AI带给受监管行业。戴尔科技公司为Deepgram提供基础设施，同时在戴尔客户解决方案中心创新实验室运行其模型。曼说，戴尔这类合作伙伴拥有从大型企业到小公司的庞大客户群。其覆盖范围从在紧凑型英伟达GB10系统上处理交互式语音应答的小企业，到规模大得多的部署。

曼更关注数据中心之外的问题：学生现在带到学校的AI笔记本电脑。他说：“我想把我们的模型放到那些硬件上，原生运行。气隙。那就是我们想达到的地方。那也是AI整体需要开始在人所在的地方、以他们使用的方式与人相遇。”他称，这是Deepgram下一阶段的目标。