Contextual Retrieval

Contextual retrieval은 인덱싱하기 전에 각 데이터 청크에 짧고 문서별 설명을 추가하여 retrieval-augmented generation (RAG)을 개선하는 전처리 기술입니다. Anthropic의 2024년 contextual retrieval 가이드에서 소개된 이 기술은 검색 시스템이 모호한 구절이 속한 위치를 이해하도록 도와주어 대형 언어 모델에 제공되는 근거를 향상시킵니다. (anthropic.com)

Link to this sectionContextual Retrieval의 작동 방식#

표준 RAG는 문서를 청크로 분할하고 이를 embeddings로 변환합니다. 그러나 "매출이 3% 증가했습니다"와 같은 청크는 회사, 보고 기간, 문서 유형을 누락할 수 있습니다. Contextual retrieval은 결합된 텍스트를 인덱싱하기 전에 전체 문서를 사용하여 "이 구절은 ACME의 2025년 2분기 재무 실적을 설명합니다"와 같은 간결한 접두사를 생성합니다.

일반적인 워크플로에는 다음이 포함됩니다:

1. Semantic Chunking: 문서를 검색 및 모델 제한에 맞는 일관된 구절로 나눕니다. 청킹의 주된 목적은 모델의 context window를 초과하지 않으면서 대규모 소스를 검색 가능하게 만드는 것입니다.
2. Context Generation: Claude contextual embeddings cookbook과 같은 프로세스에 따라, 모델을 사용하여 각 청크와 소스 간의 관계를 요약합니다.
3. Hybrid Search: 밀집 벡터 및 BM25 keyword ranking과 같은 어휘적 방법을 사용하여 맥락화된 청크를 인덱싱합니다.
4. Reranking: 최상의 근거를 생성기로 보내기 전에 더 깊은 쿼리-청크 비교를 사용하여 검색된 후보를 재정렬합니다.

Anthropic에 따르면, 맥락화된 임베딩을 맥락화된 BM25와 결합했을 때 상위 20개 검색 실패율이 49% 감소했으며, 테스트에서 리랭킹을 추가했을 때는 67% 감소했습니다. 결과는 데이터셋에 따라 다르므로 이러한 수치는 보장이 아닌 벤치마크로 다루어야 합니다. (anthropic.com)

Link to this section컴퓨터 비전에서의 Contextual Retrieval#

인 multimodal RAG에서 문서 컨텍스트에는 감지된 객체, 이미지 캡션, 타임스탬프, 카메라 위치 또는 주변 비디오 이벤트가 포함될 수 있습니다. 아래 예제에서는 Ultralytics YOLO26을 사용하여 이미지에 대한 검색 가능한 컨텍스트를 생성합니다:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
result = model("https://ultralytics.com/images/bus.jpg")[0]
labels = [model.names[int(cls)] for cls in result.boxes.cls.tolist()]
context = f"Street-scene image containing: {', '.join(labels)}."
print(context)

생성된 텍스트는 임베딩하기 전에 이미지 캡션 또는 메타데이터 레코드 앞에 추가할 수 있습니다. 개발자는 관련 YOLO prediction workflows 및 visual similarity search를 살펴볼 수 있습니다.

Link to this section실제 애플리케이션 사례#

• Enterprise and Legal Search: 정책 어시스턴트는 문서 이름, 날짜, 부서 및 조항 관계를 유지하여 격리된 구절로 인한 오해의 소지가 있는 답변을 줄입니다.
• Visual Maintenance Systems: 감지된 기계, 결함 유형 및 시설 위치는 시스템이 수리 매뉴얼이나 검사 기록을 검색하기 전에 이미지에 맥락을 부여합니다.
• Personalized Education: 학습 에이전트는 학생 대화와 활동 로그를 결합하여 학습자의 현재 작업과 관련된 지침을 검색할 수 있습니다.

Link to this section관련 기술 및 모범 사례#

Contextual retrieval은 런타임에 모델에 제공되는 모든 정보를 관리하는 context engineering과는 다릅니다. 또한 토큰 표현을 청크로 풀링하기 전에 전체 문서를 임베딩하는 late chunking research와도 다릅니다. 2025년 비교 평가에 따르면 contextual retrieval은 의미적 일관성을 유지하는 데 효과적이지만 연산 집약도가 더 높았습니다. (arxiv.org)

현재 모범 사례에는 여러 청크 크기 테스트, 소스 메타데이터 유지, 밀집 검색과 키워드 검색 결합, 그리고 Microsoft’s RAG evaluation guidance를 사용한 재현율, 정밀도, 근거성 및 응답 완성도 측정이 포함됩니다. SAGE precise retrieval과 같은 최신 연구는 의미적 세분화와 동적 청크 선택을 선호하는 반면, 2026년 검색 벤치마크는 복잡한 텍스트 및 표 문서에 대해 하이브리드 검색과 신경망 리랭킹을 지원합니다. 시각적 지식 시스템을 구축하는 팀은 Ultralytics Platform을 사용하여 데이터셋 주석 처리, 비전 모델 학습, 엔드포인트 배포, 그리고 구조화된 시각적 컨텍스트를 제공하는 구성 요소를 모니터링할 수 있습니다.