Contextual Retrieval

Контекстный поиск — это метод предварительной обработки, который улучшает поисково-дополненную генерацию (RAG), добавляя короткое объяснение для каждого фрагмента данных перед его индексацией. Представленный в руководстве Anthropic по контекстному поиску за 2024 год, он помогает поисковым системам понять, к какому месту относится в противном случае неоднозначный отрывок, что улучшает качество фактов, предоставляемых большой языковой модели. (anthropic.com)

Link to this sectionКак работает контекстный поиск#

Стандартный RAG разбивает документы на фрагменты и преобразует их в эмбеддинги. Однако такой фрагмент, как «выручка выросла на 3%», может не содержать информацию о компании, отчетном периоде и типе документа. Контекстный поиск использует весь документ для создания лаконичного префикса, например «В этом отрывке описываются финансовые результаты ACME за Q2 2025», перед индексацией объединенного текста.

Типичный рабочий процесс включает:

1. Семантическое разбиение на фрагменты: разделение документов на связные отрывки, соответствующие ограничениям поиска и модели. Основная цель разбиения — сделать большие источники доступными для поиска без превышения контекстного окна модели.
2. Генерация контекста: использование модели для суммирования связи каждого фрагмента с его источником, следуя процессу, описанному в поваренной книге контекстных эмбеддингов Claude.
3. Гибридный поиск: индексация контекстуализированных фрагментов с помощью плотных векторов и лексических методов, таких как ранжирование ключевых слов BM25.
4. Переранжирование: повторное упорядочивание найденных кандидатов с использованием более глубокого сравнения запроса и фрагмента перед отправкой лучших данных генератору.

Компания Anthropic сообщила, что контекстные эмбеддинги в сочетании с контекстным BM25 снизили уровень ошибок поиска в топ-20 на 49%, в то время как добавление переранжирования дало снижение на 67% в ходе их тестов. Результаты различаются в зависимости от набора данных, поэтому эти показатели следует рассматривать как ориентиры, а не как гарантии. (anthropic.com)

Link to this sectionКонтекстный поиск в компьютерном зрении#

В мультимодальном RAG контекст документа может включать обнаруженные объекты, подписи к изображениям, временные метки, местоположения камер или окружающие события на видео. В приведенном ниже примере используется Ultralytics YOLO26 для создания доступного для поиска контекста для изображения:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
result = model("https://ultralytics.com/images/bus.jpg")[0]
labels = [model.names[int(cls)] for cls in result.boxes.cls.tolist()]
context = f"Street-scene image containing: {', '.join(labels)}."
print(context)

Сгенерированный текст может быть добавлен перед подписью к изображению или записью метаданных перед созданием эмбеддинга. Ты можешь изучить связанные рабочие процессы предсказаний YOLO и поиск визуального сходства.

Link to this sectionРеальные приложения#

• Корпоративный и юридический поиск: помощники по правилам сохраняют названия документов, даты, отделы и связи между пунктами, уменьшая количество вводящих в заблуждение ответов из изолированных отрывков.
• Системы визуального обслуживания: обнаруженное оборудование, типы дефектов и расположение объектов обеспечивают контекст для изображений до того, как система извлечет руководства по ремонту или отчеты об инспекциях.
• Персонализированное обучение: агенты обучения могут объединять диалог студента с логами активности, чтобы находить рекомендации, соответствующие текущей задаче учащегося.

Link to this sectionСвязанные методы и лучшие практики#

Контекстный поиск отличается от инженерии контекста, которая управляет всей информацией, предоставляемой модели во время выполнения. Он также отличается от исследований позднего разбиения, которые создают эмбеддинг для целого документа перед объединением представлений токенов во фрагменты. Сравнительная оценка 2025 года показала, что контекстный поиск эффективен для сохранения семантической согласованности, но требует больших вычислительных ресурсов. (arxiv.org)

Текущие лучшие практики включают тестирование нескольких размеров фрагментов, сохранение метаданных источника, объединение плотного поиска и поиска по ключевым словам, а также измерение полноты, точности, обоснованности и завершенности ответа с помощью руководства Microsoft по оценке RAG. Новые исследования, такие как точный поиск SAGE, отдают предпочтение семантической сегментации и динамическому выбору фрагментов, в то время как бенчмарк поиска 2026 года поддерживает гибридный поиск и нейронное переранжирование для сложных текстово-табличных документов. Команды, создающие визуальные базы знаний, могут использовать Ultralytics Platform для аннотирования датасетов, обучения моделей компьютерного зрения, развертывания эндпоинтов и мониторинга компонентов, которые предоставляют структурированный визуальный контекст.