Vector Search

Vektör arama, gömüleri kosinüs benzerliği, nokta çarpımı veya Öklid uzaklığı gibi bir benzerlik ölçütüne göre sorgu gömmesine en yakın öğeleri getirir. Gömme modeli, benzer anlam veya görünüme sahip öğeleri birbirine yakın yerleştirir; bu nedenle en yakın vektörler, sorguyla hiçbir anahtar sözcüğü ortak olmasa bile en benzer belgeleri, görüntüleri veya ürünleri temsil eder. Kesin vektör araması, saklanan her vektör üzerinde yapılan bir k-en yakın komşu (k-NN) sorgusudur. Sistemler büyük ölçekte, vektörlerin küçük bir bölümüyle karşılaştırma yapıp gerçek komşuların neredeyse tamamını yine de döndüren yaklaşık en yakın komşu (ANN) dizinleri kullanır.

Vektör Arama Nasıl Çalışır#

Sorgu ve saklanan öğeler, aynı modelle veya birlikte eğitilmiş bir model çiftiyle gömülür: metin için bir cümle kodlayıcı, metinle görüntüleri eşleştirmek için CLIP ya da görüntüleri görüntülerle eşleştirmek için bir görme omurgası. Ölçüt, modelin eğitim biçimiyle uyumlu olmalıdır. Birim uzunluklu vektörlerde kosinüs benzerliği nokta çarpımına eşittir ve Öklid uzaklığına göre sıralama aynı sonucu verir. Kesin aramada her sorgu için saklanan her vektör bir kez karşılaştırılır; bu, on binlerce vektör için hızlı, yüz milyonlarca vektör içinse fazla yavaştır. Bu nedenle büyük sistemler dört ANN dizini ailesinden birini kullanır:

• HNSW gibi grafik dizinleri: Her vektörü katmanlı bir grafikte yakın komşularına bağlar ve sorguyu, hedefe doğru açgözlü biçimde ilerleyerek yanıtlar.
• Kümeleme dizinleri (IVF): Vektörleri k-means ile gruplandırır ve yalnızca merkezleri sorguya en yakın kümeleri tarar.
• Vektör niceleme: Ürün nicelemede olduğu gibi her vektörü birkaç bayta sıkıştırır; böylece uzaklıklar bellekte tutulan kompakt kodlardan yaklaşık olarak hesaplanır.
• Disk tabanlı grafikler: DiskANN'ın yaptığı gibi bir grafik dizinini SSD'de tutarak tek bir makinede milyarlarca vektörün aranmasını sağlar.

IVF dizininin temel fikri, kesin aramayla karşılaştıran kısa bir NumPy ve scikit-learn örneğiyle açıklanabilir:

import numpy as np
from sklearn.cluster import KMeans

# 20,000 embeddings grouped by topic, normalized so a dot product is cosine similarity
rng = np.random.default_rng(0)
topics = rng.normal(size=(200, 64))
vectors = topics[rng.integers(200, size=20000)] + 0.5 * rng.normal(size=(20000, 64))
vectors /= np.linalg.norm(vectors, axis=1, keepdims=True)
query = vectors[0] + 0.1 * rng.normal(size=64)

# Exact search: score every stored vector
exact = np.argsort(-(vectors @ query))[:10]

# IVF index: cluster the vectors, then scan only the lists of the 5 closest centroids
kmeans = KMeans(n_clusters=100, n_init=1, random_state=0).fit(vectors)
probed = np.argsort(-(kmeans.cluster_centers_ @ query))[:5]
candidates = np.flatnonzero(np.isin(kmeans.labels_, probed))
approx = candidates[np.argsort(-(vectors[candidates] @ query))[:10]]

print(f"scanned {len(candidates) / len(vectors):.1%} of vectors")
print(f"recall@10: {len(set(exact) & set(approx)) / 10:.0%}")

100 kümeden 5'ini taramak, vektörlerin %5,1'ini tarar ve yine de gerçek en yakın 10 komşunun tümünü bulur; yani duyarlılık@10 değeri %100'dür. Daha fazla küme taramak duyarlılığı ve maliyeti birlikte artırır; bu nedenle IVF dizininde ayarlanacak temel değer, tarama sayısıdır.

Vektör Arama ve İlgili Terimler#

• Anahtar sözcük araması: Ters dizinde tam terimleri bulur ve BM25 gibi formüllerle sıralar. Adlarda, kodlarda ve nadir sözcüklerde başarılıdır; eş anlamlıları kaçırır.
• Anlamsal arama: Anlama göre arama; vektör aramasının en sık hizmet ettiği amaçtır. Anlamsal arama sistemleri genellikle sorgu yeniden yazma veya yeniden sıralama katmanı da ekler.
• Hibrit arama: Anahtar sözcük aramasıyla vektör aramasını birlikte çalıştırır ve iki sıralı listeyi birleştirir.
• Vektör veritabanı: Vektörleri meta verilerle saklayan ve filtreleme, güncelleme ve kalıcılık özellikleriyle vektör araması sunan sistem.

Gerçek Dünya Uygulamaları#

• Getirim destekli üretim (RAG): Bir dil modelinin soruyu yanıtlamak için ihtiyaç duyduğu belge bölümlerini bulur.
• Nesne yeniden tanımlama: Aynı nesneyi farklı kameralar arasında ilişkilendirmek için bir kişinin veya aracın görünüm gömmesini daha önceki görüntülerle eşleştirir.
• Yüz tanıma: Bir yüz gömmesini kayıtlı yüzlerle karşılaştırır ve yeterince yakınsa en yakın eşleşmeyi kabul eder.
• Öneri sistemleri: Gömüleri kullanıcının son seçimlerine yakın olan ürünleri, şarkıları veya videoları önerir.

Ultralytics Platform, eğitim veri kümelerini büyütmek için vektör aramadan yararlanır. Benzer Görüntüleri Bul eylemi seçilen bir görüntüyü alır, herkese açık veri kümelerinde ve kullanıcının kendi veri kümeleriyle ekip veri kümelerinde gömme benzerliğine göre en yakın görüntüleri arar ve benzerlik puanlarıyla birlikte en fazla 24 eşleşme gösterir. Bu eşleşmeler, etiketsiz eğitim görüntüleri olarak veri kümesine eklenebilir.