Reranker

重排序器是一种复杂的机器学习模型，旨在优化候选项列表的相关性并重新排序，例如搜索结果、文档段落或目标检测结果，从而最大限度地提高其与特定查询或上下文的相关性。在多阶段系统中，初始的“检索器”会先从海量数据集中快速收集一组广泛的潜在有用项。随后，重排序器作为第二阶段，在这个规模较小的候选列表上进行深入且计算密集的分析，以识别绝对最匹配的结果。只对少量候选项执行高强度计算，系统便能在不牺牲实时应用所需速度的情况下实现高准确率。

重排序器的工作原理#

重排序通常在现代语义搜索和推荐引擎常用的两阶段流水线中运行。

• **第一阶段检索：**轻量级模型扫描整个数据库，检索出大量候选项（例如排名前 100 的文档）。这一阶段优先考虑召回率，以确保不会遗漏任何相关项，通常会使用近似最近邻搜索等快速算法。
• **第二阶段重排序：**重排序器处理检索到的候选项。与可能使用简单向量相似度的检索器不同，重排序器通常采用交叉编码器或强大的Transformer架构。它会检查查询与候选项之间的完整交互，捕捉简单模型容易忽略的细微差异和上下文。输出结果是一个重新排序的列表，其中最相关的项位于顶部。

重排序器与检索器#

虽然这两个组件都旨在查找相关数据，但它们在机器学习 (ML)工作流中承担着不同的职责。

• 检索器专为可扩展性而构建。它们将数据压缩为固定大小的嵌入，从而能够在几毫秒内搜索数百万个项。不过，这种压缩可能会丢失细粒度的详细信息。
• 重排序器专为精确性而构建。它们运行在整个数据库上时速度太慢，但在较小的子集上非常有效。它们提供了一个“第二意见”，可以纠正快速检索阶段产生的错误。

实际应用#

重排序器对于各种高性能 AI 系统都至关重要，能够弥合广泛搜索与精确理解之间的差距。

检索增强生成 (RAG)#

在检索增强生成 (RAG)中，LLM会根据外部数据回答问题。如果检索步骤将不相关的文档传递给 LLM，模型可能会产生幻觉或提供错误答案。重排序器充当质量过滤器，确保只有最相关的文本片段会被发送给生成器。这能提高响应的事实准确性，并减少上下文窗口的使用量。

目标检测与非极大值抑制#

在计算机视觉中，推理期间会使用一种类似重排序的概念。YOLO26等模型会为图像中的对象生成数千个候选边界框。一个称为非极大值抑制 (NMS)的过程充当重排序器。它按置信度分数对边界框进行排序，并使用交并比 (IoU)消除冗余的重叠预测。这可确保最终输出中每个对象仅包含一个最佳检测结果。

下面的 Python 示例展示了在使用 ultralytics 进行推理时，NMS 参数如何充当重排序过滤器。

from ultralytics import YOLO

# Load the state-of-the-art YOLO26 model
model = YOLO("yolo26n.pt")

# Run inference with NMS settings acting as the 'reranker'
# 'iou' controls the overlap threshold for suppressing duplicate candidates
# 'conf' sets the minimum confidence score required to be considered
results = model.predict("https://ultralytics.com/images/bus.jpg", iou=0.5, conf=0.25)

# Show the filtered, high-relevance detections
results[0].show()

电子商务个性化#

Amazon等大型在线零售商会使用重排序器来定制搜索结果。如果用户搜索“运动鞋”，检索器会找到数千双鞋子。随后，重排序器会根据用户过去的购买记录、当前趋势和利润率对这些结果进行排序，将用户最有可能购买的商品放在页面顶部。

优化重排序工作流#

实施重排序器需要在准确率提升与计算成本之间取得平衡。对于使用Ultralytics Platform训练和部署模型的开发者来说，理解模型复杂度与推理速度之间的权衡至关重要。虽然复杂的重排序器能够改善结果，但也会增加延迟。模型量化或知识蒸馏等技术可以帮助加快重排序模型的速度，以便部署到边缘设备上。

如需进一步了解如何优化推理流水线，请阅读我们关于超参数调优和导出模型以实现最佳性能的指南。