据MarkTechPost报道,You.com于10月23日推出Inference Router,这是一个面向生产环境的开放权重模型托管API,可在12个在线模型之间路由请求,并提供99.9%最低可用性SLA、零数据保留(ZDR)和100%美国托管。该服务兼容OpenAI和Anthropic接口,现有SDK代码只需更改基础URL和密钥即可迁移,按使用量计费,不收取平台费。
Inference Router的模型列表从GPT-OSS 120B到Kimi K3、Qwen3.8 Max,上下文长度从12.5万至100万token。Kimi K3为2.8万亿参数模型,Qwen3.8 Max为2.4万亿参数MoE模型。You.com称,请求首先进入其自有推理容量You.com Inference Direct,若该容量不可用或已满,再故障转移至经过审核的合作伙伴。官方文章列出Parasail、Wafer、阿里云、Meta和Inception,Prime Intellect即将加入。所有合作方均须100%美国托管并符合ZDR规则,故障转移不改变账单,每个模型公布统一的每token价格。
在定价上,每100万token输入/输出价格分别为:Kimi K3 2.85/14.25美元,Qwen3.8 Max 1.85/5.55美元,GLM 5.3 1.35/4.25美元,DeepSeek V4 Pro 1.65/3.65美元,DeepSeek V4.1 Flash 0.30/1.20美元,Mercury 3 0.10/0.35美元,GPT-OSS 120B 0.097/0.73美元。Muse Wonder、Muse Spark 1.3、GLM 5.3 Flash、Qwen3.8 Flash和MiniMax M3也在列表中。You.com还提供按API密钥的支出上限,以及按模型、成本和供应商查看每日用量。
ZDR政策覆盖模型调用和网页搜索:提示与输出在内存中处理而不存储,You.com仅保留token数量、时间戳和账户ID等运营元数据,明确不保留提示哈希、去标识化文本和磁盘提示缓存。账户运行在SOC 2合规基础设施上,可按要求提供DPA。
内置网页搜索方面,开发者声明web_search或web_extract工具后,路由器会替模型执行搜索。文档显示每次搜索最多20条结果,默认30轮搜索,响应返回带引用的web_results对象。搜索与模型在同一服务器运行,You.com称内部测试显示延迟最高降低15%。
You.com引用LiveNewsBench测试称,开放权重模型结合其搜索在成本更低时达到前沿模型水平。其中GLM-5.3配合You.com搜索得分86.53%,每题成本0.0485美元;Claude Sonnet 5.5自报成本为每题0.0920美元。文章同时显示,部分模型的每token价格接近市场水平,Kimi K3比Together AI的3.00/15.00美元仅低5%。