Contextual Retrieval

문맥 기반 검색은 각 데이터 청크를 인덱싱하기 전에 짧은 문서별 설명을 추가하여 검색 증강 생성 (RAG)을 개선하는 전처리 기법입니다. Anthropic의 2024년 문맥 기반 검색 가이드에서 소개된 이 기법은 검색 시스템이 그렇지 않으면 모호할 수 있는 문장이 어느 부분에 속하는지 이해하도록 지원하여, 대규모 언어 모델에 제공되는 근거를 개선합니다. (anthropic.com)

문맥 기반 검색 작동 방식#

표준 RAG는 문서를 청크로 분할하고 이를 임베딩으로 변환합니다. 그러나 “수익이 3% 증가했습니다”와 같은 청크에는 회사, 보고 기간, 문서 유형이 빠져 있을 수 있습니다. 문맥 기반 검색은 전체 문서를 사용하여 “이 문장은 ACME의 2025년 2분기 재무 결과를 설명합니다”와 같은 간결한 접두사를 생성한 후, 결합된 텍스트를 인덱싱합니다.

일반적인 워크플로에는 다음이 포함됩니다:

1. 시맨틱 청킹: 검색 및 모델 제한에 맞는 일관된 문단으로 문서를 나눕니다. 청킹의 주요 목적은 모델의 컨텍스트 윈도우를 초과하지 않으면서 대규모 소스를 검색할 수 있도록 하는 것입니다.
2. 컨텍스트 생성: Claude 문맥 기반 임베딩 cookbook과 유사한 프로세스에 따라 모델을 사용하여 각 청크와 소스 간의 관계를 요약합니다.
3. 하이브리드 검색: 밀집 벡터와 BM25 키워드 랭킹과 같은 어휘 기반 방법을 사용하여 문맥화된 청크를 인덱싱합니다.
4. 재랭킹: 최상의 근거를 생성기에 보내기 전에 더 심층적인 쿼리-청크 비교를 사용하여 검색된 후보의 순서를 재지정합니다.

Anthropic은 문맥 기반 임베딩과 문맥 기반 BM25를 결합한 결과 상위 20개 검색 실패율이 49% 감소했으며, 재랭킹을 추가하자 테스트에서 67% 감소했다고 보고했습니다. 결과는 데이터셋에 따라 달라지므로 이러한 수치는 보장이라기보다 벤치마크로 간주해야 합니다. (anthropic.com)

컴퓨터 비전에서의 문맥 기반 검색#

멀티모달 RAG에서 문서 컨텍스트에는 감지된 객체, 이미지 캡션, 타임스탬프, 카메라 위치 또는 주변 비디오 이벤트가 포함될 수 있습니다. 아래 예제에서는 Ultralytics YOLO26을 사용하여 이미지에 대한 검색 가능한 컨텍스트를 생성합니다:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
result = model("https://ultralytics.com/images/bus.jpg")[0]
labels = [model.names[int(cls)] for cls in result.boxes.cls.tolist()]
context = f"Street-scene image containing: {', '.join(labels)}."
print(context)

생성된 텍스트는 임베딩하기 전에 이미지 캡션 또는 메타데이터 레코드 앞에 추가할 수 있습니다. 개발자는 관련 YOLO 예측 워크플로와 시각적 유사성 검색을 살펴볼 수 있습니다.

실제 적용 사례#

• 엔터프라이즈 및 법률 검색: 정책 어시스턴트는 문서 이름, 날짜, 부서 및 조항 간 관계를 보존하여 고립된 문단으로 인한 오해의 소지가 있는 답변을 줄입니다.
• 시각적 유지보수 시스템: 감지된 기계, 결함 유형 및 시설 위치를 사용하여 이미지에 컨텍스트를 부여한 후 시스템이 수리 매뉴얼 또는 검사 기록을 검색합니다.
• 개인 맞춤형 교육: 학습 에이전트는 학생과의 대화 및 활동 로그를 결합하여 학습자의 현재 작업과 관련된 지침을 검색할 수 있습니다.

관련 기법 및 모범 사례#

문맥 기반 검색은 런타임에 모델에 제공되는 모든 정보를 관리하는 컨텍스트 엔지니어링과 다릅니다. 또한 토큰 표현을 청크로 풀링하기 전에 전체 문서를 임베딩하는 레이트 청킹 연구와도 다릅니다. 2025년 비교 평가에서는 문맥 기반 검색이 의미적 일관성을 보존하는 데 효과적이지만 계산 비용이 더 높다는 결과가 나왔습니다. (arxiv.org)

현재의 모범 사례에는 여러 청크 크기 테스트, 소스 메타데이터 유지, 밀집 검색과 키워드 검색 결합, Microsoft의 RAG 평가 가이드를 활용한 재현율, 정밀도, 근거성 및 응답 완전성 측정이 포함됩니다. SAGE 정밀 검색과 같은 최신 연구는 의미적 세그멘테이션과 동적 청크 선택을 선호하며, 2026년 검색 벤치마크는 복잡한 텍스트 및 표 문서에 하이브리드 검색과 신경망 재랭킹을 지원합니다. 시각적 지식 시스템을 구축하는 팀은 Ultralytics Platform을 사용하여 데이터셋에 어노테이션을 추가하고, 비전 모델을 학습하며, 엔드포인트를 배포하고, 구조화된 시각적 컨텍스트를 제공하는 구성 요소를 모니터링할 수 있습니다.