Reranker

Reranker — это сложная модель машинного обучения, предназначенная для уточнения и изменения порядка списка кандидатов, таких как результаты поиска, фрагменты документов или результаты обнаружения объектов, чтобы максимизировать их релевантность конкретному запросу или контексту. В многоэтапных системах начальный «ретривер» сначала быстро собирает широкий набор потенциально полезных элементов из огромного набора данных. Затем reranker вступает в дело как второй этап, выполняя глубокий и вычислительно интенсивный анализ этого меньшего списка, чтобы определить абсолютно лучшие совпадения. Сосредоточив тяжелые вычисления только на немногих выбранных кандидатах, системы могут достичь высокой точности без ущерба для скорости, необходимой в приложениях реального времени.

Link to this sectionКак работают Rerankers#

Переранжирование обычно выполняется в рамках двухэтапного конвейера, распространенного в современном семантическом поиске и рекомендательных системах.

• Поиск на первом этапе: Легкая модель сканирует всю базу данных, чтобы извлечь большой набор кандидатов (например, 100 лучших документов). Этот этап отдает приоритет полноте, чтобы гарантировать, что ни один релевантный элемент не будет пропущен, часто с использованием быстрых алгоритмов, таких как поиск приближенных ближайших соседей.
• Переранжирование на втором этапе: Reranker обрабатывает извлеченных кандидатов. В отличие от ретривера, который может использовать простое векторное сходство, reranker часто использует cross-encoder или мощную архитектуру Transformer. Он исследует полное взаимодействие между запросом и элементом-кандидатом, улавливая тонкие нюансы и контекст, которые пропускают более простые модели. Результатом является переупорядоченный список, где наиболее релевантные элементы появляются в начале.

Link to this sectionRerankers против Retrievers#

Хотя оба компонента нацелены на поиск релевантных данных, они служат разным целям в рабочих процессах машинного обучения (ML).

• Retrievers созданы для масштабируемости. Они сжимают данные в эмбеддинги фиксированного размера, что позволяет искать миллионы элементов за миллисекунды. Однако это сжатие может привести к потере мелких деталей.
• Rerankers созданы для точности. Они слишком медленны для работы со всей базой данных, но очень эффективны на небольших подмножествах. Они предоставляют «второе мнение», которое исправляет ошибки, допущенные на быстром этапе поиска.

Link to this sectionРеальные приложения#

Rerankers незаменимы в различных высокопроизводительных системах ИИ, сокращая разрыв между широким поиском и точным пониманием.

Link to this sectionRetrieval-Augmented Generation (RAG)#

В Retrieval-Augmented Generation (RAG) LLM отвечает на вопросы на основе внешних данных. Если на этапе поиска в LLM передаются нерелевантные документы, модель может начать галлюцинировать или давать неверные ответы. Reranker выступает в качестве фильтра качества, гарантируя, что в генератор отправляются только наиболее подходящие фрагменты текста. Это улучшает фактическую правильность ответа и снижает использование контекстного окна.

Link to this sectionОбнаружение объектов и Non-Maximum Suppression#

В компьютерном зрении концепция, похожая на переранжирование, используется во время вывода. Такие модели, как YOLO26, генерируют тысячи bounding boxes кандидатов для объектов на изображении. Процесс, называемый Non-Maximum Suppression (NMS), действует как reranker. Он сортирует рамки по их оценкам уверенности и устраняет избыточные, перекрывающиеся предсказания с помощью Intersection over Union (IoU). Это гарантирует, что итоговый результат содержит только одно лучшее обнаружение для каждого объекта.

Следующий пример на Python показывает, как параметры NMS функционируют в качестве фильтра переранжирования во время вывода с помощью ultralytics.

from ultralytics import YOLO

# Load the state-of-the-art YOLO26 model
model = YOLO("yolo26n.pt")

# Run inference with NMS settings acting as the 'reranker'
# 'iou' controls the overlap threshold for suppressing duplicate candidates
# 'conf' sets the minimum confidence score required to be considered
results = model.predict("https://ultralytics.com/images/bus.jpg", iou=0.5, conf=0.25)

# Show the filtered, high-relevance detections
results[0].show()

Link to this sectionПерсонализация в электронной коммерции#

Крупные онлайн-ритейлеры, такие как Amazon, используют rerankers для адаптации результатов поиска. Если пользователь ищет «кроссовки», ретривер находит тысячи пар обуви. Затем reranker сортирует их на основе истории прошлых покупок пользователя, текущих трендов и маржинальности, помещая товары, которые пользователь с наибольшей вероятностью купит, в начало страницы.

Link to this sectionОптимизация рабочих процессов переранжирования#

Внедрение reranker требует баланса между приростом точности и вычислительными затратами. Для разработчиков, использующих Ultralytics Platform для обучения и развертывания моделей, понимание компромисса между сложностью модели и скоростью вывода имеет ключевое значение. Хотя тяжелый reranker улучшает результаты, он добавляет задержку. Такие методы, как квантование моделей или дистилляция знаний, могут помочь ускорить работу моделей переранжирования для развертывания на периферийных устройствах.

Для дальнейшего изучения оптимизации конвейеров вывода ознакомься с нашими руководствами по настройке гиперпараметров и экспорту моделей для достижения максимальной производительности.