据MarkTechPost报道,Cohere于10月22日发布检索重排序模型Rerank 5,分为Pro和Fast两档,支持32K token上下文和100多种语言,新增Context Focus与校准相关性分数。该模型用于在搜索结果进入大语言模型前重新排序,API定价为每百万token Pro 0.05美元、Fast 0.02美元。

Rerank 5的两个版本面向不同场景。Cohere称,Pro侧重推理型查询和长篇领域文档的排序质量,Fast侧重低延迟和高吞吐,适合频繁执行搜索的智能体。两档均支持对JSON、表格和YAML等半结构化数据重排序;升级无需重建索引,开发者只需更改模型参数,继续使用现有关键词、向量或混合搜索。

Cohere公布的自评结果显示,Pro在ViDoRe V3、BEIR、BRIGHT和nanoMTEB四项基准上得分分别为92.2、90.4、82.2和87.3,均领先;BRIGHT较Rerank 4 Pro提高12.4分。Cohere称Pro在其46个复合数据集中有39个排名第一。Fast在四项基准上均超过Voyage AI Rerank 3 Lite、Qwen3-Reranker-8B和Rerank 4 Pro,在ViDoRe V3上与Voyage AI Rerank 3同为90.6,在BEIR上以88.1略低于后者的88.6。上述分数由Cohere使用其开发的RCP-nDCG@10变体自行测量,未经过独立验证。

延迟方面,Cohere在单块NVIDIA A100上测试,Pro处理96份文档请求的中位延迟为11.7秒,Fast为4.1秒。参数规模未披露,模型不提供开放权重或量化版本,可通过托管API、Model Vault、Microsoft Foundry、Amazon SageMaker以及私有VPC和本地环境运行。

Context Focus为可选功能,默认关闭。一次Rerank调用可返回文档分数和带分数的字符片段,每个片段包含原文起止偏移;开发者通过relevant_spans字段设置阈值和最大片段数。Cohere称在30个问答数据集上测试,移除一半检索文本仍保留96%的答案质量,移除四分之三保留87%;若接受一定质量损失,可将上下文压缩至原来的十分之一。在17个数据集的搜索智能体测试中,仅用BM25准确率为46%,加入Rerank 5 Pro后升至49%;启用默认阈值0.1的Context Focus后,每任务token减少19%,准确率升至57%,阈值0.4时token减少34%,准确率58%。

校准分数方面,Rerank 5的分数可按概率理解,0.7表示文档有70%的概率有用。Cohere称,以盲评人工评审和NIST TREC-DL评估员为参照,Rerank 5的预期校准误差均约为0.06;Voyage AI Rerank 3分别为0.234和0.307,Rerank 4 Pro分别为0.384和0.309。开发者可据此按阈值筛选,而不必固定保留前k条结果,智能体也可识别没有相关结果返回的情况。

Rerank 5已在Cohere API和Model Vault正式可用,并登陆Microsoft Foundry和Amazon SageMaker,Pro与Fast均可使用;Cohere称其向所有North用户开放。Model Vault的Medium实例对两档均标价每小时4.00美元。集成方面,Cohere文档列出LangChain、Haystack、Elasticsearch和Weaviate。