QLoRA

QLoRA (Nicemlenmiş Düşük Sıralı Uyarlama), derin öğrenmede kullanılan ve devasa büyük dil modellerinin (LLMs) ince ayarını son derece verimli hâle getirmek üzere tasarlanmış gelişmiş bir optimizasyon tekniğidir. İlk olarak çokça atıf alan bir arXiv araştırma makalesinde tanıtılan QLoRA, milyarlarca parametre içeren modelleri güncellemek için gereken GPU belleği miktarını büyük ölçüde azaltır.

Geliştiriciler, agresif model nicemlemesinden yararlanarak hassasiyeti 4 bite kadar düşürebilir ve OpenAI veya Anthropic gibi kuruluşlar tarafından geliştirilen güçlü temel modelleri standart tüketici sınıfı GPU'larla optimize edebilir. Bu atılım, pahalı kurumsal düzeyde sunucu kümeleri gerektirmeden son teknoloji üretken yapay zekâya erişimi demokratikleştirir.

QLoRA Nasıl Çalışır#

QLoRA'nın temel yeniliği, esas olarak PyTorch nicemleme yöntemlerinde bulunan temel kavramlar üzerine kurulu bellek tasarrufu tekniklerinde yatar. Normal dağılıma sahip model ağırlıklarını ağın tahmin yeteneklerini ciddi ölçüde azaltmadan işlemek üzere matematiksel olarak optimize edilmiş, 4 bitlik NormalFloat (NF4) adlı yeni bir veri türü sunar.

Ayrıca QLoRA, daha geniş makine öğrenimi araştırmalarında tanınan bir teknik olan Çift Nicemleme adı verilen bir strateji kullanır; bu strateji, nicemleme sabitlerinin kendisini de nicemleyerek gereksiz bellek kullanımını daha da azaltır. Devasa önceden eğitilmiş temel model sıkıştırılmış 4 bitlik durumda dondurulmuş olarak kalırken, ağ katmanlarına küçük, eğitilebilir adaptörler eklenir. Geri yayılım sinir ağı eğitimi sırasında gerçekleştiğinde gradyanlar, yalnızca bu küçük ve son derece verimli adaptörleri güncellemek üzere dondurulmuş 4 bitlik ağırlıklardan geçirilir.

QLoRA ve LoRA Karşılaştırması: Farkları Anlamak#

Parametre açısından verimli ince ayarı (PEFT) incelerken kullanıcılar genellikle QLoRA'nın geleneksel LoRA'dan (Düşük Sıralı Uyarlama) ne açıdan farklı olduğunu merak eder. Standart LoRA, orijinal model ağırlıklarını dondurur ve modeli yeni verilere uyarlamak için düşük sıralı matrisleri eğitir. Ancak genellikle temel modeli 16 bitlik veya 32 bitlik hassasiyette tutar. QLoRA, LoRA adaptörlerini uygulamadan önce temel modeli 4 bitlik hassasiyete sıkıştırarak bunu önemli ölçüde ileri taşır. Bu, bellek kullanımını büyük ölçüde azaltır ve 65 milyar parametreli bir modelin tek bir 48 GB GPU'ya sığmasını sağlar; bu, standart LoRA ile matematiksel olarak mümkün değildir.

Gerçek Dünya Uygulamaları#

• Kurumsal Sohbet Botları ve Asistanlar: Şirketler, Meta'nın Llama 3 gibi açık kaynaklı modelleri özel iş verileri üzerinde ince ayarlamak için düzenli olarak QLoRA kullanır. Bu sayede kuruluşlar, aşırı donanım maliyetlerine katlanmadan yerel ve güvenli bulut bilişim altyapısında çalışan, son derece doğru ve alana özgü yapay zekâ asistanları oluşturabilir.
• Uç Yapay Zekâ Dağıtımları: Metin tabanlı modeller görsel-dil modelleri (VLMs) aracılığıyla görsel alanlara genişledikçe QLoRA, geliştiricilerin devasa çok kipli mimarileri donanım kısıtlamalı ortamlar için uyarlamasını sağlar. Bu hafif optimizasyonlar, gelişmiş akıl yürütme yeteneklerini cep telefonlarına ve uzak sensörlere taşımak için Google AI bünyesindeki araştırma ekipleri tarafından yoğun olarak kullanılır.

Bilgisayarlı Görmede Verimli Eğitim#

QLoRA'nın temel felsefesi olan donanım gereksinimlerini en aza indirirken matematiksel doğruluğu en üst düzeye çıkarma yaklaşımı, modern bilgisayarlı görü (CV) iş akışlarında da paylaşılır. Örneğin Ultralytics YOLO26, düşük güç tüketimli uç cihazlarda verimli bir şekilde öğrenmek ve anında dağıtılmak üzere yerel olarak tasarlanmıştır. Karmaşık görüntü veri kümeleriyle çalışan geliştiriciler, bellek optimizasyonunu ve toplu iş boyutunu doğrudan yöneten kesintisiz bulut eğitiminden yararlanmak için Ultralytics Platform kullanabilir.

Aşağıda, QLoRA'nın bellek tasarrufu hedefleriyle yakından ilişkili bir kavram olan Otomatik Karma Hassasiyet (AMP) kullanarak verimli bir görü modelini nasıl eğitebileceğine dair pratik bir örnek verilmiştir:

from ultralytics import YOLO

# Load the highly efficient Ultralytics YOLO26 nano model
model = YOLO("yolo26n.pt")

# Train the model utilizing mixed-precision (amp) to save GPU memory
# Similar to QLoRA, this optimizes hardware resources during training runs
results = model.train(data="coco8.yaml", epochs=10, imgsz=640, amp=True)

Güçlü veri işleme ve otomatik gradyan ölçekleme algoritmalarından yararlanan modeller daha hızlı eğitilir ve standart GPU'lara kolayca sığar; bu da bilgisayarlı görü modellerini kurumsal üretim ortamlarında başarıyla dağıtma sürecini hızlandırır.