Contextual Retrieval

Contextual retrieval là một kỹ thuật tiền xử lý giúp cải thiện retrieval-augmented generation (RAG) bằng cách thêm một giải thích ngắn gọn, cụ thể cho từng tài liệu vào mỗi chunk dữ liệu trước khi lập chỉ mục. Được giới thiệu trong hướng dẫn contextual retrieval năm 2024 của Anthropic, kỹ thuật này giúp các hệ thống tìm kiếm hiểu được vị trí của một đoạn văn bản vốn có thể mơ hồ, qua đó cải thiện chất lượng bằng chứng cung cấp cho một large language model. (anthropic.com)

Link to this sectionCách thức hoạt động của Contextual Retrieval#

RAG tiêu chuẩn chia tài liệu thành các chunk và chuyển đổi chúng thành các embeddings. Tuy nhiên, một chunk như “revenue increased by 3%” có thể bỏ sót công ty, kỳ báo cáo và loại tài liệu. Contextual retrieval sử dụng toàn bộ tài liệu để tạo ra một tiền tố ngắn gọn, chẳng hạn như “This passage describes ACME’s Q2 2025 financial results,” trước khi lập chỉ mục cho văn bản đã kết hợp.

Một workflow điển hình bao gồm:

1. Semantic Chunking: Chia tài liệu thành các đoạn mạch lạc phù hợp với giới hạn của retrieval và model. Mục đích chính của việc chia chunk là làm cho các nguồn dữ liệu lớn có thể tìm kiếm được mà không vượt quá context window của model.
2. Context Generation: Sử dụng một model để tóm tắt mối quan hệ của từng chunk với nguồn gốc của nó, tuân theo quy trình như Claude contextual embeddings cookbook.
3. Hybrid Search: Lập chỉ mục các chunk đã được tạo ngữ cảnh bằng dense vectors và các phương pháp lexical như BM25 keyword ranking.
4. Reranking: Sắp xếp lại các ứng viên được truy xuất bằng cách so sánh sâu hơn giữa query và chunk trước khi gửi bằng chứng tốt nhất đến generator.

Anthropic báo cáo rằng contextual embeddings kết hợp với contextual BM25 đã giảm tỷ lệ lỗi truy xuất top-20 xuống 49%, trong khi việc thêm reranking mang lại mức giảm 67% trong các bài kiểm tra của họ. Kết quả có thể thay đổi tùy theo dataset, vì vậy các số liệu này nên được xem xét như các benchmark thay vì là cam kết chắc chắn. (anthropic.com)

Link to this sectionContextual Retrieval trong Computer Vision#

Trong multimodal RAG, ngữ cảnh tài liệu có thể bao gồm các đối tượng được phát hiện, chú thích hình ảnh, dấu thời gian, vị trí camera hoặc các sự kiện video xung quanh. Ví dụ dưới đây sử dụng Ultralytics YOLO26 để tạo ngữ cảnh có thể tìm kiếm cho một hình ảnh:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
result = model("https://ultralytics.com/images/bus.jpg")[0]
labels = [model.names[int(cls)] for cls in result.boxes.cls.tolist()]
context = f"Street-scene image containing: {', '.join(labels)}."
print(context)

Văn bản được tạo có thể được nối vào trước chú thích hình ảnh hoặc bản ghi metadata trước khi tạo embedding. Các developer có thể khám phá các YOLO prediction workflows và visual similarity search liên quan.

Link to this sectionCác ứng dụng trong thực tế#

• Enterprise and Legal Search: Các trợ lý chính sách duy trì tên tài liệu, ngày tháng, phòng ban và mối quan hệ giữa các điều khoản, giúp giảm thiểu các câu trả lời gây hiểu lầm từ các đoạn văn bản độc lập.
• Visual Maintenance Systems: Máy móc được phát hiện, các loại lỗi và vị trí cơ sở hạ tầng cung cấp ngữ cảnh cho hình ảnh trước khi hệ thống truy xuất tài liệu hướng dẫn sửa chữa hoặc bản ghi kiểm tra.
• Personalized Education: Các tác nhân học tập có thể kết hợp đoạn hội thoại của học sinh với nhật ký hoạt động để truy xuất hướng dẫn phù hợp với nhiệm vụ hiện tại của người học.

Link to this sectionCác kỹ thuật liên quan và Best Practices#

Contextual retrieval khác với context engineering, vốn quản lý tất cả thông tin được cung cấp cho model tại runtime. Nó cũng khác với late chunking research, vốn thực hiện embedding trên toàn bộ tài liệu trước khi gộp các biểu diễn token thành các chunk. Một đánh giá so sánh năm 2025 cho thấy contextual retrieval có hiệu quả trong việc duy trì tính mạch lạc ngữ nghĩa nhưng đòi hỏi nhiều tài nguyên tính toán hơn. (arxiv.org)

Các best practices hiện tại bao gồm kiểm thử nhiều kích thước chunk, giữ lại metadata nguồn, kết hợp truy xuất dense và keyword, đồng thời đo lường các chỉ số recall, precision, groundedness và độ hoàn chỉnh của phản hồi bằng hướng dẫn đánh giá RAG của Microsoft. Các nghiên cứu mới hơn như SAGE precise retrieval ưu tiên phân đoạn ngữ nghĩa và lựa chọn chunk động, trong khi benchmark truy xuất năm 2026 hỗ trợ hybrid retrieval và neural reranking cho các tài liệu phức tạp gồm cả văn bản và bảng biểu. Các team xây dựng hệ thống kiến thức trực quan có thể sử dụng Ultralytics Platform để chú thích dataset, huấn luyện vision models, triển khai endpoint và giám sát các thành phần cung cấp ngữ cảnh trực quan có cấu trúc.