Vector Quantization

Vektör niceleme, modern makine öğrenimi (ML) ve dijital sinyal işleme alanlarında yaygın olarak kullanılan güçlü bir veri sıkıştırma ve ayrıklaştırma tekniğidir. Temelde, geniş bir sürekli nokta veya vektör kümesini gruplara ayırarak ve her grubu "prototip" bir vektörle temsil ederek çalışır; bu prototipler toplu olarak kod defteri (codebook) adı verilen bir yapıyı oluşturur. Sürekli yüksek boyutlu vektörleri bu ayrık kod defteri girişlerine eşleyerek, sistemler boyut indirgeme için verinin temel semantik özelliklerini korurken bellek kullanımını büyük ölçüde azaltabilir.

Link to this sectionDerin Öğrenmede Ayrıklaştırmanın Rolü#

In contemporary deep learning (DL), this concept was famously popularized by the Vector Quantized Variational Autoencoder (VQ-VAE). Unlike standard autoencoders that learn a continuous latent space to perform feature extraction, VQ-VAEs learn a discrete representation. This allows generative models to treat images, audio, or video as a sequence of discrete tokens, similar to how Large Language Models (LLMs) process text inputs. You can explore foundational research on discrete representation learning to see how early implementations paved the way for modern token-based vision systems.

Link to this sectionGerçek Dünya Uygulamaları#

Vektör niceleme, performans ve bellek verimliliğinin kritik olduğu birçok gerçek dünya yapay zeka uygulamasında hayati bir rol oynar:

• Üretken Yapay Zeka ve Medya Sıkıştırma: Karmaşık görsel verileri ayrık gizli kodlara sıkıştırarak, vektör niceleme son derece verimli görüntü ve video üretimine olanak tanır. Sürekli pikselleri ayrık belirteçlere eşleyen modeller, hesaplama yükünü önemli ölçüde azaltarak örtük difüzyon modelleri gibi gelişmiş mimarilere yardımcı olur.
• Yüksek Hızlı Vektör Erişimi: Hızlı benzerlik araması gerçekleştirmek için modern sistemlerin milyonlarca gömme (embedding) üzerinde sorgu yapması gerekir. Vektör niceleme bu devasa veri kümelerini sıkıştırarak, erişim motorlarının hızlı yaklaşık en yakın komşu (ANN) aramaları yapmasını sağlar; bu durum perakendede yapay zeka ve ürün tavsiye sistemleri için son derece faydalıdır. Yüksek boyutlu veri işleme hakkında daha fazla bağlam için OpenAI'ın gömmeler kılavuzuna göz atabilirsin.

Link to this sectionİlgili Kavramları Ayırt Etme#

Verimli bir bilgisayarlı görü (CV) mimarisi tasarlarken, vektör niceleme ve benzer terminolojiler arasındaki nüansı anlamak faydalıdır:

• Vektör Niceleme ve Model Niceleme: Model niceleme genellikle Ultralytics YOLO26 gibi modellerin donanım üzerinde çıkarımını hızlandırmak için sinir ağı ağırlıklarının sayısal hassasiyetini azaltmayı (örneğin, 32-bit kayan noktadan 8-bit tamsayıya) ifade eder. Vektör niceleme ise veri vektörlerini sabit bir ayrık prototip sözlüğünde kümeleme işlemidir.
• Vektör Niceleme ve Vektör Veritabanı: Vektör veritabanı, yüksek boyutlu verileri saklayan gerçek altyapıdır. Vektör niceleme, Qdrant'ın vektör işleme açıklamasında detaylandırıldığı gibi, bu veritabanlarının bellek ayak izini en aza indirmek için sıklıkla kullandıkları temel bir algoritmik tekniktir.
• Vektör Niceleme ve Vektör Arama: Vektör arama, vektör yakınlığına dayalı benzer öğeleri bulmanın aktif sürecidir. Niceleme, bu aramayı devasa ölçekte hesaplanabilir kılmak için bir yapısal optimizasyon katmanı görevi görür.

Link to this sectionTemel Uygulama Örneği#

Vektör nicelemenin sürekli girdileri uygulamada nasıl ayrık belirteçlere eşlediğini görmek için, Öklid mesafelerini hesaplamak ve önceden tanımlanmış bir kod defterindeki en yakın prototipi bulmak adına PyTorch kullanabilirsin:

import torch

# Define a continuous input batch and a discrete codebook vocabulary
inputs = torch.randn(4, 128)  # 4 input vectors of dimension 128
codebook = torch.randn(10, 128)  # 10 discrete prototype vectors

# Compute distances and find the nearest codebook index for each input
distances = torch.cdist(inputs, codebook)
quantized_indices = torch.argmin(distances, dim=1)

# Retrieve the discrete quantized vectors corresponding to the inputs
quantized_vectors = codebook[quantized_indices]

Tensor mesafelerini yerel olarak hesaplamak ve bu işlemleri optimize etmek hakkında detaylı bilgi için resmi PyTorch cdist dokümantasyonuna başvur.

Link to this sectionUltralytics Platform ile İş Akışlarını Geliştirme#

Optimize edilmiş gömmeleri veri hattına entegre etmek güçlü araçlar gerektirir. Ultralytics Platform, eğitim verilerini düzenlemek ve son teknoloji görme modellerini eğitmek için uçtan uca bir ortam sağlar. Geliştiriciler, veri yönetimini kolaylaştırarak ve model dağıtımını basitleştirerek, vektör niceleme için uygun yüksek kaliteli görsel özellikleri zahmetsizce oluşturabilir, bu da daha hızlı nesne algılama ve büyük ölçekli medya erişim uygulamalarına yol açar.