Cosine Similarity
コサイン類似度は、長さを無視し、2つのベクトル間の角度で類似度を評価します。数式、関連指標、検索での用途、コードを解説します。
コサイン類似度は、2つのベクトル間の角度のコサインによってベクトル同士の類似度を測定します。同じ方向を向く場合は1、垂直の場合は0、反対方向の場合は−1です。ベクトルの長さは無視し、方向だけを比較するため、長さの異なる文書の単語数や、テキストと画像からニューラルネットワークが生成する埋め込みなど、方向に意味があるデータに適しています。そのため、セマンティック検索、検索拡張生成 (RAG)、レコメンデーションシステムで項目を比較する際の標準的なスコアとして使われます。
コサイン類似度の計算方法#
コサイン類似度は、2つのベクトルの内積をそれぞれの長さの積で割って求めます。cos(θ) = (A·B) / (‖A‖·‖B‖)です。ここで‖A‖はユークリッド長、つまり各要素を二乗して合計した値の平方根です。どちらかのベクトルを正の数でスケーリングしても、スコアは変わりません。単語数やTF-IDFの重みなど、負の値を含まないベクトルのスコアは常に0から1の範囲になります。この例では、ベクトルと、その長さを伸ばした複製、垂直なベクトル、反対向きのベクトルを比較します。
import numpy as np
def cosine(u, v):
"""Return the cosine of the angle between two vectors."""
return u @ v / (np.linalg.norm(u) * np.linalg.norm(v))
a = np.array([1.0, 2.0, 3.0])
b = 10 * a # same direction, ten times longer
c = np.array([3.0, 0.0, -1.0]) # perpendicular to a
print(f"cos(a, b) = {cosine(a, b):.2f}, Euclidean distance = {np.linalg.norm(a - b):.1f}")
print(f"cos(a, c) = {cosine(a, c):.2f}, cos(a, -a) = {cosine(a, -a):.2f}")スケーリングされた複製は、ユークリッド距離で33.7離れていても完全一致の1.00となります。垂直なベクトルは0.00、反対向きのベクトルは−1.00です。
ベクトルを単位長に正規化すると、コサイン類似度は内積と等しくなり、ユークリッド距離の二乗は2 − 2·cos(θ)となります。そのため、コサイン類似度、内積、ユークリッド距離のいずれで近傍を順位付けしても、順序は同じです。ベクトルデータベースや検索ライブラリでは、インデックス作成時に埋め込みを一度正規化します。これにより、クエリとコレクション全体のスコア計算は、ベクトル検索の中核となる単一の行列・ベクトル積になります。ディープラーニングフレームワークでは、PyTorchのcosine_similarity関数のように、この計算を直接実行できます。
AIでの応用#
- 言語モデル向け検索: クエリとドキュメントチャンクのライブラリを同じモデルで埋め込みに変換し、クエリとのコサイン類似度が最も高いチャンクをコンテキストとして言語モデルに渡します。
- 顔認証: ArcFaceのように、識別対象間に角度マージンを加える損失関数で学習したシステムでは、2つの顔埋め込みをコサイン類似度で比較し、調整済みのしきい値を超えた場合に一致と判定します。
- CLIPによるゼロショット分類: CLIPは、画像の埋め込みと「犬の写真」などのプロンプトの埋め込みとのコサイン類似度を計算し、学習済みの温度パラメーターでスコアをスケーリングして、プロンプト全体にsoftmaxを適用することで画像を分類します。
- 対照学習: SimCLRのNT-Xentなどの損失関数は、2つの埋め込みのコサイン類似度を温度パラメーターで割り、同じ画像の異なるビューを近づけ、他の画像を遠ざけます。
- アイテムベースのレコメンデーション: 協調フィルタリングでは、評価ベクトルのコサイン類似度によってアイテムを比較します。そのため、同じ顧客が購入した商品は類似していると判断されます。
コードでの画像埋め込みの比較#
YOLO26モデルは、embed()を通じて画像ごとに1つの埋め込みを返します。この処理では予測ヘッドをスキップし、モデルの最後から2番目の層の出力を平均プーリングします。この例では、YOLO26の画像分類モデルを使い、サンプル画像2枚の埋め込みを比較します。
import torch.nn.functional as F
from ultralytics import YOLO
# Load a YOLO26 classification model pretrained on ImageNet
model = YOLO("yolo26n-cls.pt")
# Generate one embedding vector per image
embeddings = model.embed(["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"])
# Cosine similarity between the two image embeddings
similarity = F.cosine_similarity(embeddings[0], embeddings[1], dim=0)
print(f"Cosine similarity: {similarity.item():.4f}")表示されるスコアは−1から1の範囲で、値が高いほど、ネットワークが2枚の画像をより似ているものとして表現していることを意味します。
コサイン類似度と関連指標の比較#
- コサイン距離: コサイン類似度を1から引いた値で、0から2の範囲になります。三角不等式を満たさないため、真の距離尺度ではありません。一方、角度θ自体は距離尺度です。
- 内積: 2つのベクトルの長さも含むため、同じ方向を向いている場合、長いベクトルのスコアは短いベクトルより高くなります。多くのツインタワー検索モデルは生の内積でスコアを付けるよう学習します。この場合、ベクトルの長さはアイテムの全体的な人気度などの情報を持つことがあります。
- ユークリッド距離: 2点間の直線距離を測定し、長さの差に応じて大きくなります。そのため、同じ話題を扱う短い文書と長い文書も、単語数空間では離れた位置に配置されます。
- K近傍法 (KNN): 近傍を見つけるために類似度または距離を必要とするアルゴリズムです。テキストや埋め込みを扱う用途では、コサイン類似度がよく使われます。
- ピアソン相関: 各ベクトルの要素からそのベクトル自身の平均値を差し引いた後の、2つのベクトルのコサイン類似度に相当します。










