Cosine Similarity
코사인 유사도는 길이를 고려하지 않고 두 벡터 사이의 각도로 유사성을 측정합니다. 공식, 관련 지표, 검색 활용 사례, 코드 예제를 다룹니다.
코사인 유사도는 두 벡터 사이 각도의 코사인으로 벡터 간 유사성을 측정합니다. 두 벡터가 같은 방향을 가리키면 1, 수직이면 0, 반대 방향이면 −1입니다. 벡터 길이는 무시하고 방향만 비교하므로, 길이가 서로 다른 문서의 단어 수나 텍스트 및 이미지에 대해 신경망이 생성하는 임베딩처럼 방향에 의미가 담긴 데이터에 적합합니다. 따라서 시맨틱 검색, 검색 증강 생성(RAG), 추천 시스템에서 기본 유사도 점수로 사용됩니다.
코사인 유사도 계산 방법#
코사인 유사도는 두 벡터의 내적을 각 벡터 길이의 곱으로 나눕니다. cos(θ) = (A·B) / (‖A‖·‖B‖)이며, ‖A‖는 각 원소의 제곱을 합산한 뒤 제곱근을 취한 유클리드 길이입니다. 벡터 중 하나에 양수를 곱해 크기를 조정해도 점수는 변하지 않습니다. 단어 수나 TF-IDF 가중치처럼 음수가 없는 벡터의 점수는 항상 0과 1 사이입니다. 다음 예제는 벡터와 그보다 긴 복사본, 수직 벡터, 반대 벡터를 비교합니다.
import numpy as np
def cosine(u, v):
"""Return the cosine of the angle between two vectors."""
return u @ v / (np.linalg.norm(u) * np.linalg.norm(v))
a = np.array([1.0, 2.0, 3.0])
b = 10 * a # same direction, ten times longer
c = np.array([3.0, 0.0, -1.0]) # perpendicular to a
print(f"cos(a, b) = {cosine(a, b):.2f}, Euclidean distance = {np.linalg.norm(a - b):.1f}")
print(f"cos(a, c) = {cosine(a, c):.2f}, cos(a, -a) = {cosine(a, -a):.2f}")크기를 조정한 복사본은 유클리드 거리로 33.7만큼 떨어져 있어도 완벽한 1.00을 기록합니다. 수직 벡터는 0.00, 반대 벡터는 −1.00을 기록합니다.
벡터를 단위 길이로 정규화하면 코사인 유사도는 내적과 같고 제곱 유클리드 거리는 2 − 2·cos(θ)와 같으므로, 코사인 유사도, 내적, 유클리드 거리로 이웃의 순위를 매겨도 순서는 같습니다. 따라서 벡터 데이터베이스와 검색 라이브러리는 인덱싱할 때 임베딩을 한 번 정규화합니다. 그러면 전체 컬렉션에 대해 쿼리 점수를 계산하는 작업은 벡터 검색의 핵심 연산인 단일 행렬-벡터 곱셈이 됩니다. PyTorch의 cosine_similarity 함수와 같이 딥러닝 프레임워크는 이 계산을 직접 제공합니다.
AI 분야의 응용#
- 언어 모델 검색: 쿼리와 문서 청크 라이브러리를 동일한 모델로 임베딩하고, 쿼리와 코사인 유사도가 가장 높은 청크를 컨텍스트로 언어 모델에 전달합니다.
- 얼굴 인증: ArcFace처럼 신원 사이에 각도 마진을 추가하는 손실 함수로 학습한 시스템은 코사인 유사도로 두 얼굴 임베딩을 비교하고, 조정된 임계값보다 높은 경우 일치로 판정합니다.
- CLIP을 사용한 제로샷 분류: CLIP은 이미지 임베딩과 "a photo of a dog"와 같은 프롬프트의 임베딩 간 코사인 유사도를 계산하고, 학습된 온도로 점수를 조정한 뒤 프롬프트 전체에 소프트맥스를 적용해 이미지에 라벨을 지정합니다.
- 대조 학습: SimCLR의 NT-Xent와 같은 손실 함수는 두 임베딩의 코사인 유사도를 온도로 나누어 같은 이미지의 뷰는 서로 가까워지게 하고 다른 이미지는 서로 멀어지게 합니다.
- 아이템 기반 추천: 협업 필터링은 평점 벡터 간 코사인 유사도로 아이템을 비교하므로, 같은 고객이 구매한 제품을 서로 유사한 것으로 간주합니다.
코드에서 이미지 임베딩 비교하기#
YOLO26 모델은 embed()을 통해 이미지당 하나의 임베딩을 반환합니다. 이 기능은 예측 헤드를 건너뛰고 모델의 끝에서 두 번째 계층 출력을 평균 풀링합니다. 다음 예제에서는 YOLO26 이미지 분류 모델로 두 개의 샘플 이미지 임베딩을 비교합니다.
import torch.nn.functional as F
from ultralytics import YOLO
# Load a YOLO26 classification model pretrained on ImageNet
model = YOLO("yolo26n-cls.pt")
# Generate one embedding vector per image
embeddings = model.embed(["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"])
# Cosine similarity between the two image embeddings
similarity = F.cosine_similarity(embeddings[0], embeddings[1], dim=0)
print(f"Cosine similarity: {similarity.item():.4f}")출력 점수는 −1에서 1 사이이며, 값이 높을수록 네트워크가 두 이미지를 더 유사하게 표현한다는 의미입니다.
코사인 유사도와 관련 측정값 비교#
- 코사인 거리: 코사인 유사도에서 1을 뺀 값으로 정의되며 범위는 0에서 2입니다. 삼각 부등식을 만족하지 않으므로 진정한 거리 메트릭은 아니지만, 각도 θ 자체는 거리 메트릭입니다.
- 내적: 두 벡터의 길이를 모두 반영하므로 같은 방향을 가리키는 경우 긴 벡터가 짧은 벡터보다 높은 점수를 얻습니다. 많은 투 타워 검색 모델은 원시 내적으로 점수를 매기도록 학습되며, 이때 벡터 길이는 아이템의 전반적인 인기도와 같은 정보를 담을 수 있습니다.
- 유클리드 거리: 두 점 사이의 직선 거리를 측정하며 길이 차이가 커질수록 값도 커집니다. 따라서 같은 주제를 다루더라도 짧은 문서와 긴 문서는 단어 수 공간에서 멀리 떨어질 수 있습니다.
- K-최근접 이웃(KNN): 이웃을 찾을 때 유사도나 거리를 사용하는 알고리즘이며, 텍스트 및 임베딩 애플리케이션에서는 코사인 유사도를 사용하는 경우가 많습니다.
- 피어슨 상관계수: 각 벡터의 원소에서 해당 벡터 자체의 평균을 뺀 후 계산한 두 벡터 간 코사인 유사도와 같습니다.










