Gradient Descent

Gradyan İnişi, makine öğrenimi modellerini ve sinir ağlarını eğitmek için kullanılan temel bir yinelemeli optimizasyon algoritmasıdır. Temel işlevi, modelin dahili parametrelerini, özellikle model ağırlıklarını ve bias değerlerini sistematik olarak ayarlayarak bir kayıp fonksiyonunu en aza indirmektir. Bu süreci, yoğun sis içinde bir dağdan aşağı inmeye çalışan bir yürüyüşçü olarak hayal edebilirsin; yürüyüşçü dibi göremediği için zeminin eğimini hisseder ve en dik aşağı yönde bir adım atar. Makine öğrenimi (ML) bağlamında "dağ", hata manzarasını; "dip" ise modelin tahminlerinin en doğru olduğu durumu temsil eder. Bu optimizasyon tekniği, basit doğrusal regresyondan Ultralytics YOLO26 gibi karmaşık derin öğrenme mimarilerine kadar her şeyi mümkün kılan modern yapay zekâ (AI) atılımlarının temelini oluşturur.

Gradyan İnişi Nasıl Çalışır#

Gradyan İnişinin etkinliği, kayıp fonksiyonunun en hızlı artış yönünü gösteren bir vektör olan gradyanın hesaplanmasına dayanır. Bu hesaplama genellikle geri yayılım algoritması kullanılarak gerçekleştirilir. Yön belirlendikten sonra algoritma, hatayı azaltmak için ağırlıkları ters yönde günceller. Atılan adımın büyüklüğü, öğrenme oranı olarak bilinen bir hiperparametre tarafından belirlenir. En uygun öğrenme oranını bulmak kritik öneme sahiptir; çok büyük bir adım modelin minimum noktayı aşmasına, çok küçük bir adım ise eğitim sürecinin aşırı yavaşlamasına ve yakınsamak için gereğinden fazla epok gerekmesine neden olabilir. Daha derin bir matematiksel anlayış için Khan Academy bu konu hakkında çok değişkenli kalkülüs dersi sunar.

Süreç, model genellikle yakınsama olarak adlandırılan ve hatanın en aza indirildiği bir noktaya ulaşana kadar yinelemeli olarak tekrarlanır. Standart algoritma gradyanları tüm eğitim verisi kümesi üzerinden hesaplarken Stokastik Gradyan İnişi (SGD) gibi varyasyonlar, hesaplamayı hızlandırmak ve yerel minimumlardan kaçmak için daha küçük alt kümeler veya tekil örnekler kullanır. Bu uyarlanabilirlik, verimlilik ve hızın son derece önemli olduğu Ultralytics Platformu üzerinde büyük ölçekli modelleri eğitmek için onu uygun hâle getirir.

Gerçek Dünya Uygulamaları#

Gradyan İnişi, neredeyse her başarılı yapay zekâ çözümünün arka planında sessizce çalışarak ham verileri çeşitli sektörlerde eyleme dönüştürülebilir zekâya çevirir.

• Otonom Sürüş: Otonom araçların geliştirilmesinde modellerin yayaları, trafik işaretlerini ve diğer araçları tanımlamak için görsel verileri işlemesi gerekir. Son teknoloji YOLO26 gibi nesne algılama mimarileri kullanıldığında Gradyan İnişi, bir nesnenin tahmin edilen konumu ile gerçek konumu arasındaki farkı en aza indirir. Bu, otomotivde yapay zekâ sistemlerinin yola ilişkin dahili haritalarını sürekli iyileştirerek saniyelik, hayat kurtaran kararlar alabilmesini sağlar.
• Tıbbi Tanı: Sağlık hizmetlerinde tıbbi görüntü analizi, MRI taramalarındaki tümörler gibi anomalileri tespit etmek için derin öğrenmeye dayanır. Gradyan İnişi kullanılarak evrişimli sinir ağları (CNN'ler) optimize edildiğinde bu sistemler, kötü huylu ve iyi huylu dokuları yüksek hassasiyetle ayırt etmeyi öğrenir. Bu, kritik tanılarda yanlış negatifleri azaltarak sağlık hizmetlerinde yapay zekâ uzmanlarına önemli ölçüde yardımcı olur ve daha erken, daha doğru tedavi planlarının hazırlanmasını sağlar.

İlişkili Kavramları Ayırt Etme#

Model geliştirme sırasında karışıklığı önlemek için Gradyan İnişini derin öğrenme (DL) sözlüğündeki yakından ilişkili terimlerden ayırt etmek önemlidir.

• Geri Yayılımla Karşılaştırma: Genellikle birlikte anılsalar da eğitim döngüsünde farklı rollere sahiptirler. Geri yayılım, gradyanları hesaplamak (eğimin yönünü belirlemek) için kullanılan yöntemdir; Gradyan İnişi ise bu gradyanları ağırlıkları güncellemek (adımı atmak) için kullanan optimizasyon algoritmasıdır. Geri yayılım haritadır; Gradyan İnişi ise yürüyüşçüdür.
• Adam İyileştiriciyle Karşılaştırma: Adam iyileştirici, her parametre için uyarlanabilir öğrenme oranları kullanan Gradyan İnişinin gelişmiş bir türevidir. Bu, genellikle standart SGD'den daha hızlı yakınsamayla sonuçlanır. Sağlamlığı sayesinde modern çerçevelerde yaygın olarak kullanılır ve YOLO11 ile YOLO26 gibi modelleri eğitmek için varsayılan tercihtir.
• Kayıp Fonksiyonuyla Karşılaştırma: Kayıp fonksiyonu (Ortalama Kare Hatası veya Çapraz Entropi gibi), modelin ne kadar kötü performans gösterdiğini ölçer. Gradyan İnişi ise bu performansı iyileştiren süreçtir. Kayıp fonksiyonu skoru sağlar; Gradyan İnişi ise bu skoru iyileştirme stratejisini sunar.

Python Kod Örneği#

ultralytics gibi üst düzey kütüphaneler eğitim sırasında bu süreci soyutlasa da mekanizmayı doğrudan PyTorch kullanarak görebilirsin. Aşağıdaki örnek, bir değeri en aza indirmek için tensörü manuel olarak güncellediğimiz basit bir optimizasyon adımını gösterir.

import torch

# Create a tensor representing a weight, tracking gradients
w = torch.tensor([5.0], requires_grad=True)

# Define a simple loss function: (w - 2)^2. Minimum is at w=2.
loss = (w - 2) ** 2

# Backward pass: Calculate the gradient (slope) of the loss with respect to w
loss.backward()

# Perform a single Gradient Descent step
learning_rate = 0.1
with torch.no_grad():
    w -= learning_rate * w.grad  # Update weight: w_new = w_old - (lr * gradient)

print(f"Gradient: {w.grad.item()}")
print(f"Updated Weight: {w.item()}")  # Weight moves closer to 2.0

Bu temelleri anlamak, geliştiricilerin yakınsama sorunlarını gidermesine, hiperparametreleri etkili biçimde ayarlamasına ve veri kümelerinin model eğitimi dinamikleriyle nasıl etkileştiğini görselleştirmek için Ultralytics Explorer gibi güçlü araçlardan yararlanmasına olanak tanır. Bu optimize edilmiş modelleri verimli biçimde dağıtmak isteyenler için niceleme farkındalıklı eğitim (QAT) konusunu incelemek, uç cihazlardaki performansı daha da iyileştirebilir.