Hybrid Search
Hybrid search thực hiện truy xuất từ khóa (BM25) và truy xuất vector cho cùng một truy vấn, sau đó hợp nhất hai danh sách đã xếp hạng, thường bằng Reciprocal Rank Fusion, thành một danh sách.
Tìm kiếm lai chạy truy xuất theo từ khóa và tìm kiếm vector cho cùng một truy vấn, rồi hợp nhất hai danh sách đã xếp hạng thành một. Tìm kiếm từ khóa, hay tìm kiếm từ vựng, chấm điểm các kết quả khớp thuật ngữ chính xác bằng công thức như BM25 và được gọi là truy xuất thưa vì mỗi tài liệu được biểu diễn dưới dạng vector thưa gồm trọng số thuật ngữ trên toàn bộ từ vựng. Tìm kiếm vector so sánh các embedding đặc trưng dày đặc để nắm bắt ý nghĩa. BM25 tìm được chính xác mã lỗi, SKU sản phẩm hoặc tên người mà model embedding có thể làm mờ. Embedding tìm được các cách diễn đạt lại và từ đồng nghĩa không có từ nào trùng với truy vấn. Kết hợp hai phương pháp là cấu hình truy xuất phổ biến cho tạo sinh tăng cường truy xuất (RAG) và tìm kiếm doanh nghiệp.
Vì sao nên kết hợp truy xuất thưa và truy xuất dày đặc#
Bộ truy xuất dày đặc học từ dữ liệu huấn luyện cụ thể, nên lợi thế của chúng giảm trên các miền chưa quen thuộc. Benchmark BEIR (2021) kiểm thử các model truy xuất theo cách zero-shot trên 18 tập dữ liệu và phát hiện BM25 là baseline vững chắc mà nhiều model dày đặc không thể vượt qua ngoài miền huấn luyện; trong khi đó, các bộ reranker và model tương tác muộn như ColBERT đạt điểm cao nhất nhưng tốn nhiều năng lực tính toán hơn. Chạy BM25 song song với bộ truy xuất dày đặc giữ lại thế mạnh từ khóa mà không phải từ bỏ tìm kiếm ngữ nghĩa. Các model thưa được học như SPLADE làm mờ ranh giới theo hướng ngược lại: sử dụng Transformer để gán trọng số cho các thuật ngữ trong từ vựng, bao gồm cả những thuật ngữ liên quan không xuất hiện trong tài liệu.
Cách hợp nhất kết quả#
Điểm BM25 không bị giới hạn, trong khi độ tương đồng cosine nằm trong khoảng từ -1 đến 1, vì vậy không thể cộng trực tiếp hai danh sách. Hai phương pháp hợp nhất thường dùng là:
- Hợp nhất thứ hạng nghịch đảo (RRF): Gán cho mỗi tài liệu tổng 1 / (k + thứ hạng) trên các danh sách có chứa tài liệu đó, với k = 60 như trong bài báo năm 2009 của Cormack, Clarke và Büttcher. Phương pháp này chỉ sử dụng thứ hạng nên không cần chuẩn hóa điểm số hoặc tinh chỉnh.
- Hợp nhất điểm số có trọng số: Chuẩn hóa cả hai tập điểm số, chẳng hạn về khoảng từ 0 đến 1, rồi kết hợp theo công thức alpha x dense + (1 - alpha) x sparse, trong đó alpha được tinh chỉnh trên các truy vấn xác thực.
Một bộ reranker thường sắp xếp lại danh sách đã hợp nhất trước khi hiển thị kết quả hoặc chuyển chúng cho mô hình ngôn ngữ lớn (LLM). Ví dụ bên dưới chạy cả hai nhánh bằng điểm từ khóa TF-IDF của scikit-learn và embedding từ Sentence Transformers, sau đó hợp nhất bằng RRF:
import numpy as np
from sentence_transformers import SentenceTransformer
from sklearn.feature_extraction.text import TfidfVectorizer
docs = [
"Fault E-4012: hydraulic pressure low on press 7",
"Fault E-4021: hydraulic pressure low on press 2",
"Order form for E-4012 replacement sensor kits",
"Low oil pressure makes the press ram sluggish",
"Weekly cleaning checklist for the paint booth",
]
query = "E-4012 sluggish"
# Nhánh thưa: điểm từ khóa TF-IDF, khớp các token chính xác như mã lỗi
tfidf = TfidfVectorizer(token_pattern=r"[\w-]+", stop_words="english").fit(docs)
sparse = (tfidf.transform(docs) @ tfidf.transform([query]).T).toarray().ravel()
# Nhánh dày đặc: độ tương đồng cosine của embedding câu, khớp theo ý nghĩa
model = SentenceTransformer("sentence-transformers/all-MiniLM-L6-v2")
dense = model.similarity(model.encode(query), model.encode(docs))[0].numpy()
# Hợp nhất thứ hạng nghịch đảo: mỗi danh sách cộng 1 / (60 + thứ hạng) vào điểm số của tài liệu
fused = np.zeros(len(docs))
for scores in (sparse, dense):
fused[np.argsort(-scores)] += 1 / (60 + np.arange(1, len(docs) + 1))
for name, scores in [("sparse", sparse), ("dense", dense), ("hybrid", fused)]:
print(name, np.argsort(-scores)[:3])Nhánh từ khóa xếp mô tả triệu chứng (tài liệu 3) lên đầu vì chứa từ hiếm "sluggish", còn nhánh dày đặc xếp mục lỗi E-4012 (tài liệu 0) lên đầu, tiếp theo là biểu mẫu đặt phụ tùng. RRF xếp lỗi E-4012 lên đầu vì mục này giữ hạng 2 trong một danh sách và hạng 1 trong danh sách còn lại; mô tả triệu chứng đứng thứ hai, đưa lên đầu hai tài liệu kết hợp lại sẽ trả lời truy vấn.
Ứng dụng thực tế#
- Tìm kiếm sản phẩm bán lẻ: Khớp chính xác số model và tên thương hiệu, đồng thời hiểu các truy vấn mô tả như "giày đi đường mòn chống thấm nước".
- Hỗ trợ kỹ thuật và RAG trên tài liệu hướng dẫn: Truy xuất trang chứa mã lỗi chính xác cùng các đoạn mô tả cùng triệu chứng bằng cách diễn đạt khác.
- Nghiên cứu pháp lý và tuân thủ: Tìm chính xác số hiệu điều luật và tên vụ án, đồng thời truy xuất các đoạn đề cập đến cùng một khái niệm pháp lý.
Ứng dụng tìm kiếm lai trong thực tế#
Elasticsearch, OpenSearch, Weaviate, Qdrant, Pinecone và Vespa hỗ trợ truy vấn lai theo cách tích hợp sẵn; PostgreSQL cũng có thể kết hợp tìm kiếm toàn văn tích hợp sẵn với extension pgvector trong một truy vấn cơ sở dữ liệu vector. Bộ lọc metadata, chẳng hạn phạm vi ngày hoặc danh mục sản phẩm, là cơ chế riêng: chúng giới hạn các tài liệu đủ điều kiện trước khi một trong hai nhánh xếp hạng.
Ultralytics Platform sử dụng cách sắp xếp lai trong tìm kiếm ảnh của dataset: trước tiên là ảnh có tên tệp, lớp được gán nhãn hoặc metadata tùy chỉnh khớp với văn bản tìm kiếm, tiếp theo là tối đa 1.000 ảnh trông giống nội dung được mô tả bằng văn bản; nhờ đó, tìm kiếm như "xe nâng gần cửa ra vào" cũng trả về ảnh có cảnh tương tự nhưng không có tên, nhãn hoặc metadata khớp. Truy xuất từ khóa cũng tăng cường RAG trên văn bản. Trong các thử nghiệm truy xuất theo ngữ cảnh của Anthropic, việc bổ sung BM25 theo ngữ cảnh vào embedding theo ngữ cảnh đã giảm tỷ lệ truy xuất thất bại trong top 20 từ 3.7% xuống 2.9%.










