据SiliconANGLE报道,Inception AI Inc.于10月20日发布旗舰扩散语言模型Mercury 3。公司自行测试显示,该模型在12项基准中的8项优于OpenAI的GPT-6 Luna和Anthropic的Claude Haiku 5.5,生成速度最高为后两者的四至八倍。
Mercury 3采用与主流模型不同的生成方式。GPT-6 Luna和Claude Haiku 5.5按传统方式逐个token写出答案,Mercury模型先一次性草拟完整回答,再经过数轮并行修正每个位置。Inception联合创始人兼首席执行官Stefano Ermon说,自Mercury 1以来公司最常被问到的问题是扩散模型能否扩展,他认为限制来自算力和数据,而非根本性的算法障碍。
在Nvidia图形处理器上,Inception测得Mercury 3速度为每秒1068个token;同一比较中,Claude Haiku 5.5约为240,GPT-6 Luna约为130。Inception未披露Mercury 3的参数规模,只称其超过Mercury 1的40倍;上下文窗口从Mercury 2.5的26万token提升至100万token。Ermon表示,Mercury 3下一代的训练已经开始。
基准测试中,Mercury 3对GPT-6 Luna的最大领先出现在编程领域:在SWE-Bench Atlas上得51.1分,GPT-6 Luna为33.3分,Claude Haiku 5.5为32.3分。它在另一项编程基准DeepSWE上以46.3分对51.6分落后于Claude Haiku 5.5,并在一项长上下文测试中落后;GPT-6 Luna另外赢下两项,分差均不到1分。目前尚无外部机构公布对该模型的独立测试结果。
早期客户把Mercury 3用于对延迟敏感的产品。实时搜索初创公司Octen AI创始人兼首席执行官Kuan Zou说,在智能眼镜上,“一个需要五秒的回答会让人觉得坏了”。Octen测试中的生成时间中位数为0.9秒。辅导应用RevisionDojo联合创始人兼首席技术官Michael Tong说,提示和批改答案现在约一秒返回。
Mercury 3标价为每百万输入token 20美分、每百万输出token 70美分,缓存输入价格低90%;发布促销期内两项费率减半。GPT-6 Luna和Claude Haiku 5.5在典型提示下的标价分别为每百万输入10美分、输出50美分。开发者可通过Inception自有平台,或经OpenRouter、Baseten Labs和Vercel调用该模型;为OpenAI应用程序编程接口编写的软件只需小幅修改即可调用。
Inception是一家风险投资支持的初创公司,由Ermon与计算机科学教授Aditya Grover、Volodymyr Kuleshov于2024年创立。去年11月Menlo Ventures领投5000万美元融资时,微软旗下M12风投部门是投资方之一。据路透社报道,截至今年5月微软曾就收购Inception进行谈判,该公司要价超过10亿美元;Space Exploration Technologies Corp.也曾接触该公司。两笔潜在交易均未宣布达成。