Cosine Similarity
Độ tương đồng cosine đo mức độ giống nhau giữa hai vector dựa trên góc giữa chúng, không xét độ dài. Nội dung đề cập công thức, các thước đo liên quan, ứng dụng tìm kiếm và code.
Độ tương đồng cosine đo mức giống nhau giữa hai vector bằng cosine của góc giữa chúng: bằng 1 khi chúng cùng hướng, 0 khi vuông góc và −1 khi ngược hướng. Phép đo bỏ qua độ dài vector và chỉ so sánh hướng, phù hợp với dữ liệu mà hướng mang ý nghĩa, chẳng hạn số lần xuất hiện từ trong các tài liệu có độ dài khác nhau hoặc embedding mà mạng nơ-ron tạo ra cho văn bản và hình ảnh. Vì vậy, đây là điểm số mặc định để so sánh các mục trong tìm kiếm ngữ nghĩa, tạo sinh tăng cường truy xuất (RAG) và hệ thống gợi ý.
Cách tính độ tương đồng cosine#
Độ tương đồng cosine lấy tích vô hướng của hai vector chia cho tích độ dài của chúng: cos(θ) = (A·B) / (‖A‖·‖B‖), trong đó ‖A‖ là độ dài Euclid, bằng căn bậc hai của tổng bình phương các phần tử. Nhân một trong hai vector với số dương không làm thay đổi điểm số. Các vector không có phần tử âm, chẳng hạn số lần xuất hiện từ hoặc trọng số TF-IDF, luôn có điểm từ 0 đến 1. Ví dụ này so sánh một vector với bản sao dài hơn của chính nó, một vector vuông góc và vector ngược hướng:
import numpy as np
def cosine(u, v):
"""Return the cosine of the angle between two vectors."""
return u @ v / (np.linalg.norm(u) * np.linalg.norm(v))
a = np.array([1.0, 2.0, 3.0])
b = 10 * a # same direction, ten times longer
c = np.array([3.0, 0.0, -1.0]) # perpendicular to a
print(f"cos(a, b) = {cosine(a, b):.2f}, Euclidean distance = {np.linalg.norm(a - b):.1f}")
print(f"cos(a, c) = {cosine(a, c):.2f}, cos(a, -a) = {cosine(a, -a):.2f}")Bản sao được scale đạt điểm hoàn hảo 1,00 dù cách vector ban đầu 33,7 đơn vị theo khoảng cách Euclid; vector vuông góc đạt 0,00, còn vector ngược hướng đạt −1,00.
Sau khi chuẩn hóa vector về độ dài đơn vị, độ tương đồng cosine bằng tích vô hướng của chúng, còn bình phương khoảng cách Euclid bằng 2 − 2·cos(θ); do đó, xếp hạng láng giềng theo độ tương đồng cosine, tích vô hướng hoặc khoảng cách Euclid đều cho cùng thứ tự. Vì vậy, cơ sở dữ liệu vector và thư viện tìm kiếm chuẩn hóa embedding một lần khi lập chỉ mục; việc chấm điểm truy vấn trên cả tập hợp trở thành một phép nhân ma trận-vector, thao tác cốt lõi của tìm kiếm vector. Framework deep learning cung cấp sẵn phép tính này, như hàm cosine_similarity của PyTorch.
Ứng dụng trong AI#
- Truy xuất cho model ngôn ngữ: Truy vấn và thư viện các đoạn tài liệu được nhúng bằng cùng một model; những đoạn có độ tương đồng cosine cao nhất với truy vấn được chuyển cho model ngôn ngữ làm ngữ cảnh.
- Xác minh khuôn mặt: Hệ thống được huấn luyện bằng các hàm loss như ArcFace, vốn bổ sung biên góc giữa các danh tính, so sánh hai embedding khuôn mặt bằng độ tương đồng cosine và chấp nhận kết quả khớp vượt ngưỡng đã hiệu chỉnh.
- Phân loại zero-shot với CLIP: CLIP gán nhãn hình ảnh bằng cách tính độ tương đồng cosine giữa embedding của hình ảnh và embedding của các prompt như "ảnh chụp một chú chó", scale điểm bằng một tham số nhiệt độ đã học rồi áp dụng softmax trên các prompt.
- Học tương phản: Các hàm loss như NT-Xent của SimCLR chia độ tương đồng cosine giữa hai embedding cho một tham số nhiệt độ, kéo các góc nhìn của cùng một hình ảnh lại gần nhau và đẩy các hình ảnh khác ra xa.
- Gợi ý dựa trên mục: Lọc cộng tác so sánh các mục bằng độ tương đồng cosine giữa vector đánh giá, nhờ đó sản phẩm được cùng khách hàng mua sẽ được xem là tương tự.
So sánh embedding hình ảnh bằng mã#
Model YOLO26 trả về một embedding cho mỗi hình ảnh thông qua embed(); tính năng này bỏ qua head dự đoán và lấy trung bình theo không gian trên đầu ra của layer áp chót trong model. Ví dụ này so sánh embedding của hai hình ảnh mẫu từ model phân loại hình ảnh YOLO26:
import torch.nn.functional as F
from ultralytics import YOLO
# Load a YOLO26 classification model pretrained on ImageNet
model = YOLO("yolo26n-cls.pt")
# Generate one embedding vector per image
embeddings = model.embed(["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"])
# Cosine similarity between the two image embeddings
similarity = F.cosine_similarity(embeddings[0], embeddings[1], dim=0)
print(f"Cosine similarity: {similarity.item():.4f}")Điểm được in ra nằm trong khoảng −1 đến 1; giá trị càng cao nghĩa là mạng biểu diễn hai hình ảnh càng giống nhau.
Độ tương đồng cosine so với các phép đo liên quan#
- Khoảng cách cosine: Được định nghĩa là 1 trừ độ tương đồng cosine và nằm trong khoảng từ 0 đến 2. Đại lượng này vi phạm bất đẳng thức tam giác nên không phải metric khoảng cách thực sự, còn chính góc θ thì có.
- Tích vô hướng: Tính cả độ dài của hai vector, vì vậy vector dài đạt điểm cao hơn vector ngắn cùng hướng. Nhiều model truy xuất hai tháp được huấn luyện để chấm điểm bằng tích vô hướng thô, trong đó độ dài vector có thể mang thông tin như mức độ phổ biến tổng thể của một mục.
- Khoảng cách Euclid: Đo khoảng cách đường thẳng giữa hai điểm và tăng theo chênh lệch độ dài, vì vậy tài liệu ngắn và dài cùng chủ đề vẫn cách xa nhau trong không gian số lần xuất hiện từ.
- K láng giềng gần nhất (KNN): Thuật toán cần một độ tương đồng hoặc khoảng cách để tìm láng giềng; các ứng dụng văn bản và embedding thường cung cấp độ tương đồng cosine.
- Tương quan Pearson: Bằng độ tương đồng cosine của hai vector sau khi trừ giá trị trung bình riêng của từng vector khỏi các phần tử.










