Cohere 发布 Rerank 5 企业检索重排模型，分 Pro 与 Fast 两档

核心要点

• 最先进的检索能力：Rerank 5 Pro 在主要公开基准测试中领先，而 Rerank 5 Fast 以更低成本提供接近领先水平的性能。
• 在企业各领域表现强劲：Rerank 5 在金融、医疗、科学研究、解析文档和多语言检索领域确立了领先地位。
• Context Focus：Rerank 5 新增功能——单次 Rerank 调用即可返回每个文档中最相关的段落，在答案质量损失极小的前提下降低 LLM token 成本。
• 校准的相关性分数：跨查询和领域的一致分数让团队可以设定单一阈值，决定哪些内容进入 LLM。
• 随处部署：可通过 Cohere API、Model Vault、Microsoft Foundry、Amazon SageMaker、在您自己的 VPC 或本地私有部署，以及面向所有 North 用户提供。只需几行代码即可开始使用。

引言

今天，我们发布 Rerank 5，这是我们迄今最先进的企业检索模型，提供 Pro 和 Fast 两个版本。

Rerank 5 帮助团队找到正确的信息，将最相关的上下文发送给 LLM，并为客户提供更贴合需求的搜索体验。借助 Rerank 5 Pro，我们在重排序质量上树立了新标准，尤其是在推理密集型搜索、视觉信息丰富的文档和关键企业领域。Rerank 5 Fast 将这一质量带给对延迟和成本敏感的工作负载。两个模型都引入了 Context Focus，可精确定位文档中最相关的文本片段，超越文档级或分块级检索，精准呈现真正重要的信息。

LLM 读取的每个 token 都是您要付费的 token，而检索决定了这些 token 是哪些。随着智能体在更长的文档上执行更多搜索，检索已成为企业控制 AI 成本、延迟和答案质量的关键杠杆。

Rerank 5 与 Embed 5 和 Parse 5 一同构成我们最新一代搜索模型。它今日已在 Cohere API 和 Model Vault、Microsoft Foundry、Amazon SageMaker 上正式可用，并面向所有 North 用户提供。API 定价为 Pro 每 100 万 token 0.05 美元，Fast 为 0.02 美元。

性能

Rerank 5 Pro 在 ViDoRe V3、nanoMTEB、BRIGHT 和 BEIR 等公开基准测试中领先——优于所有参与测试的竞争模型。在评估的 46 个复合数据集中，Rerank 5 Pro 在 39 个上排名第一，在 43 个上至少排名第二。模型使用 RCP-nDCG@10 进行评估，这是 Cohere 开发的一种方法，旨在解决传统 nDCG 因相关性判断不完整（qrel 覆盖率）而导致的局限。

这一优势在 BRIGHT 上尤为明显，该基准测试推理密集型检索，识别相关文档需要超越关键词或语义相似度的更深层理解。Rerank 5 Pro 得分 82.2，比 Voyage AI Rerank 3 高出 5.8 分，比 Rerank 4 Pro 高出 12.4 分，这是它在四项主要基准测试中最大的代际提升。Pro 在 ViDoRe V3 上还以 1.6 分领先最强的外部竞争对手，在 BEIR 上领先 1.8 分，在 nanoMTEB 上领先 3.4 分。这些提升对智能体工作流日益重要，因为复杂、多步骤的查询需要具备推理相关性的能力，并返回可能与原始查询不太相似的证据。

Rerank 5 Fast 在速度优化层级中带来了显著的质量提升。在全部四项基准测试中，它都优于 Voyage AI Rerank 3 Lite 和 Qwen3-Reranker-0.6B，以及规模大得多的 Qwen3-Reranker-8B 和上一代 Rerank 4 Pro。

特定领域表现

在专业的企业领域，Rerank 5 展现出持续领先。在金融与经济学领域，Rerank 5 Pro 在金融文档视觉检索（ViDoRe Finance）、财务报告数值推理（FinQA）以及复杂经济学问题（BRIGHT Economics）上领先于竞争对手。这是其领先幅度最大的领域，比 Voyage AI Rerank 3 高出 9.6 分。

类似的结果也延伸到医疗健康、科学研究和能源相关检索领域，这些基准测试考察从专业科学文献、生物医学研究和气候相关内容中找出相关信息的能力。查看完整结果列表此处。

多语言

Rerank 5 Pro 在我们评估的每一种语言上都优于 Rerank 4 Pro，在西班牙语、法语、德语、阿拉伯语和韩语上至少提升两分。在我们内部评估套件的 19 种非英语语言中，它在 14 种上排名第一，包括下文所示全部六种优先商务语言。

与竞争对手相比，Pro 在所有这些语言上都领先 Voyage AI Rerank 3。其领先幅度最大的是日语（+2.7）、法语（+2.3）和阿拉伯语（+2.3）。Rerank 5 Fast 在全部六种语言上都优于 Voyage AI Rerank 3 Lite，在阿拉伯语上领先多达 4.5 分。在此查看全部 19 种语言的完整结果。

多语言。在我们内部评估套件中按语言划分的重排序质量（RCP-nDCG@10），涵盖六种选定语言。整个套件包含 20 种世界语言和 74 个数据集。

已解析的 PDF

在涉及从 PDF 中提取内容的检索任务中——这是企业文档搜索的一项重要能力——Pro 在评估套件中取得了最高的平均分 89.9，领先于 Voyage AI Rerank 3（88.4）和 Rerank 4 Pro（88.3）。Fast 以 88.5 紧随其后，略微优于这两个模型。

延迟 + 吞吐量

Rerank 5 Fast 专为大规模处理而打造。在持续负载下，Fast 在单块 NVIDIA A100 GPU 上每秒可重排序约 187 篇标准长度文档（1,000 个 token），吞吐量达到 Pro 的 2.9 倍。

Fast 的响应时间也比 Pro 快近 3 倍，非常适合对延迟敏感的应用，以及每个任务中需要执行多次搜索的智能体。Pro 仍然最适合那些将排序质量置于速度之上的应用。

上下文聚焦：释放更智能的 token 经济效益

随着文档变得越来越长，AI 智能体从更多来源检索信息，传递给 LLM 的上下文量持续增加。然而，每篇文档中往往只有少数几句话与查询相关。处理不必要的内容会推高 token 成本、增加延迟，并可能引入噪声，从而降低答案质量。

上下文聚焦是随 Rerank 5 推出的全新可选能力，它不仅能识别相关文档，还能精确定位最关键的具体段落。可配置的阈值让开发者能够在减少上下文与保留证据之间取得平衡，而单次 Rerank API 调用即可同时返回文档级相关性分数和带分数的文本片段。应用随后可以只将最相关的证据传递给 LLM，而无需在检索流程中增加额外步骤。

将上下文与答案质量解耦

我们在 30 个问答数据集上测量了当上下文聚焦移除更多检索文本时答案质量的变化。移除一半上下文仅损失 2 个百分点的答案质量（保留 96%），移除四分之三也仅损失 7 个百分点（保留 87% 的答案质量）。因此，上下文聚焦就像一个调节旋钮：适中的设置几乎不付出代价，而需要更大节省的团队可以用部分质量换取最多 10 倍的上下文缩减。

随后，我们给一个搜索智能体逐步搭建了一套检索栈，从关键词搜索（BM25）开始。加入 Rerank 5 Pro 后，准确率从 46% 提升到 49%。开启 Context Focus 后，token 用量减少，准确率进一步提升。在默认阈值（0.1）下，每个任务的 token 用量下降了 19%，准确率升至 57%。在 0.4 下，token 用量下降了 34%，在每个数据集上都更低，准确率达到 58%。总体而言，在 Context Focus 设为 0.4 时，完整检索栈比单独使用 BM25 少用 35% 的 token，同时准确率更高（58% 对 46%）。在六个深度搜索基准上，它少用 41% 的 token，准确率从 39% 升至 52%，每个基准在这两项指标上都有改善。​

校准后的相关性分数

使用 Rerank 5，0.7 的分数现在意味着该文档有 70% 的概率有用。

每个重排序模型都会返回相关性分数，但在此之前，这些分数大多只适合用于排序。什么算作“好”分数因模型而异。团队不得不为每个模型调整截断值，并在每次升级时重新调整。

Rerank 5 的分数开箱即用即已校准：每个结果返回的 relevance_score 可读作该文档有用的概率，无需更改你的请求或响应格式。Pro 和 Fast 对分界线的认定也一致：“更可能有用而非无用”在 Pro 中对应 0.50 分，在 Fast 中对应 0.45 分。

我们用两组未用于训练任何模型的人工判断数据对此进行了检验：一个盲评评分小组和 NIST 的 TREC Deep Learning 评估员。在这两组数据上，Rerank 5 都比任何其他重排序模型更贴近对角线。竞争模型位于其下方，高估了相关性：Voyage AI Rerank 3 评分约为 0.55 的文档，对人工评分员而言只有 24% 有用。

下表将其汇总为期望校准误差（ECE）：模型分数与有用文档真实占比之间的平均差距，0 表示完美。Rerank 5 在两组判断上的 ECE 均约为 0.06；我们测试的其他所有重排器误差几乎都是它的四倍或更多。校准也不会牺牲排序质量：Rerank 5 Pro 和 Fast 在两组上的平均精度分别位列第一和第二。

期望校准误差汇总了上方图表中的每条线：其各点与对角线之间的平均距离，按每个点所代表的文档数量加权。换言之，即模型分数与有用文档真实占比之间的差距。越低越好；0 表示完美。

为何重要

• 按相关性过滤，而非按数量。 与其向 LLM 传入固定的 top-k，不如保留所有高于阈值的文档。窄查询会传入少量文档，宽泛查询会传入更多文档，模型看到的噪声更少。
• 知道何时没有返回相关内容。 如果没有文档达到阈值，智能体可以重写查询或表示不知道，而不是根据排名第一的文档作答。
• 跨领域和模型规模使用同一阈值。 在 BRIGHT、NanoBEIR 和 ViDoRe V3 上，Pro 的默认值保持在 0.47 到 0.53 之间，且 Pro 与 Fast 之间的差距在 0.05 以内。

开始重排

Rerank 5 Pro 和 Rerank 5 Fast 已通过 Cohere API、Model Vault、Microsoft Foundry（Fast、Pro）和 Amazon SageMaker（Fast、Pro）正式开放，并向所有 North 用户开放。如需在自有 VPC 或本地进行私有部署，请联系我们的团队成员。

Rerank 5 构建在您现有的检索栈之上。它可与任何关键词、向量或混合搜索配合使用，无需重新索引，并可通过 LangChain、Haystack、Elasticsearch 和 Weaviate 等框架使用。阅读文档。

首先创建 API 密钥，然后使用下方代码片段快速发起您的首次查询。

#rerank with Context Focus
import os
import requests

query = "How much did card provisions rise in Q3?"

documents = [
    "Market update. Commercial real estate prices fell 6% this year as office "
    "vacancies climbed. Analysts expect refinancing pressure on landlords to "
    "persist into next year.",
    "Q3 credit quality. Net charge-offs held steady at 0.42% of average loans. "
    "Commercial real estate loans stood at $14.3 billion, or 9% of total loans. "
    "Office properties accounted for $2.1 billion of that balance. Card "
    "provisions rose $85 million on higher delinquencies.",
    "Q3 mortgage lending. Residential mortgage originations rose 11% as rates "
    "eased. The average loan-to-value ratio on new lending was 68%.",
]

response = requests.post(
    "https://api.cohere.com/v2/rerank",
    headers={"Authorization": f"Bearer {os.environ['CO_API_KEY']}"},
    json={
        "model": "rerank-v5.0-pro",
        "query": query,
        "documents": documents,
        "top_n": 2,
        "relevant_spans": {"mode": "enabled", "threshold": 0.4, "max_spans": 10}, #toggle Context Focus
    },
)
response.raise_for_status()

for result in response.json()["results"]:
    document = documents[result["index"]]
    print(f"{result['relevance_score']:.2f}  {document[:60]}...")
    for span in result.get("relevant_spans") or []:
        print(f"      {span['score']:.2f}  {document[span['start']:span['end']]}")

最后思考

在完整的检索栈中试用 Rerank 5。 Compass Cloud 是我们的托管搜索与检索平台，将解析、嵌入、混合搜索和 Rerank 整合在一个服务中，由 Cohere 管理基础设施。它目前面向构建检索密集型和智能体应用的团队开放私有测试版。 申请访问。

在 X 和 LinkedIn 上关注我们，获取 Cohere 的最新动态；如有其他问题，请发送邮件至 search@cohere.com。

主要贡献者

Clifton Poth, Fabian Schmidt, Samarth Bhargav, Alekhya Nandula, Yuheng Huang, Arthur Maciejewicz, Dennis Zhao, Timothy Ang, Carlos Lassance, Nils Reimers