Geriye Yayılım

"Hataların geriye doğru yayılması"nın kısaltması olan geri yayılım, modern yapay zeka sistemlerinin verilerden öğrenmesini sağlayan temel algoritmadır. Model eğitim süreci sırasında matematiksel bir haberci görevi görür ve sinir ağındaki her bir parametrenin yanlış bir tahmine ne kadar katkıda bulunduğunu tam olarak hesaplar. Her bir ağırlığa göre kayıp fonksiyonunun gradyanını belirleyerek, geri yayılım ağın kendini ayarlamasına ve zamanla doğruluğunu artırmasına olanak tanıyan gerekli geri bildirimi sağlar. Türevleri hesaplamanın bu verimli yöntemi olmasaydı, derin ve karmaşık modellerin eğitimi hesaplama açısından imkansız olurdu.

Öğrenme Mekaniği

Geri yayılımı anlamak için, bunu bir döngünün parçası olarak görmek yardımcı olur. Bir sinir ağı bir görüntüyü veya metni işlediğinde, bir tahmin yapmak için "ileri geçiş" gerçekleştirir. Sistem daha sonra bu tahmini, hatayı niceliksel olarak ifade eden bir kayıp fonksiyonu kullanarak doğru cevapla karşılaştırır. .

Geri yayılım, çıktı katmanında başlar ve ağ katmanları boyunca geriye doğru ilerler. Gradyanları hesaplamak için matematikteki zincir kuralını kullanır. Bu gradyanlar, sisteme "hatayı azaltmak için bu ağırlığı biraz artır" veya "bu önyargıyı önemli ölçüde azalt" şeklinde etkili bir şekilde bilgi verir. Bu bilgi, milyonlarca parametrenin aynı anda ince ayar yapılması gereken Convolutional Neural Networks (CNNs) gibi derin mimariler için çok önemlidir.

Geriye Yayılım ve Optimizasyon

Yeni başlayanlar genellikle geri yayılımı optimizasyon adımıyla karıştırırlar, ancak bunlar eğitim döngüsü içinde farklı süreçlerdir .

• Geri yayılım teşhis aracıdır. Gradyanları hesaplar, etkili bir şekilde bir hata manzarasının eğimini gösteren harita. Bu harita şu soruya cevap verir: "Hangi yöne doğru hareket etmeliyiz? hatayı azaltmak mı?"
• Optimizasyon bir eylemdir. Algoritmalar gibi Stokastik Gradyan İnişi (SGD) veya Adam optimizer sağlanan gradyanları alır ve ağırlıkları günceller. Geriye yayılım harita ise, optimize edici yürüyüşçüdür. adımları.

Yapay Zekada Gerçek Dünya Uygulamaları

Geri yayılım, neredeyse tüm modern yapay zeka başarılarının temelinde yatan mekanizmadır ve modellerin eğitim verilerinden yeni, görülmemiş girdilere genelleme yapmasını sağlar.

• Bilgisayar Görme: YOLO26 gibi modellerin kullanıldığı nesne algılama görevlerinde geri yayılım, ağın uzamsal hiyerarşileri öğrenmesini sağlar. Bu, modelin belirli kenarların şekiller oluşturduğunu ve bu şekillerin arabalar veya yayalar gibi nesneler oluşturduğunu anlamasına yardımcı olur. Gelecekte, Ultralytics bu eğitim tekniklerini kullanarak kullanıcıların, üretimdeki kusurları doğru bir şekilde tespit edebilen veya tarımda mahsul sağlığını izleyebilen özel modeller oluşturmasına yardımcı olacaktır.
• Doğal Dil İşleme (NLP): OpenAI tarafından geliştirilenler gibi Büyük Dil Modellerinde (LLM'ler), geri yayılım, sistemin bir cümlede bir sonraki kelimenin olasılığını öğrenmesini sağlar. Yanlış metin tahminlerinden kaynaklanan hataları yayarak, model makine çevirisi gibi uygulamalar için gerekli olan ince dilbilgisi ve bağlamı öğrenir.

Derin Ağlardaki Zorluklar

Güçlü olmasına rağmen, algoritma çok derin ağlarda zorluklarla karşılaşır. Kaybolan gradyan sorunu, gradyanlar geriye doğru hareket ederken çok küçük hale geldiğinde ortaya çıkar ve erken katmanların öğrenmeyi durdurmasına neden olur. Tersine, patlayan gradyan, gradyanların büyük ölçüde kararsız değerlere birikmesini içerir. Batch Normalization gibi teknikler ve ResNet gibi özel mimari yapılar genellikle bu sorunları azaltmak için kullanılır.

Python Kod Örneği

gibi yüksek seviyeli kütüphaneler varken ultralytics eğitim sırasında bu süreci özetlemek, temelinde yatan PyTorch mekanizmayı doğrudan görmenizi sağlar. Mekanizma .backward() yöntemi, geri yayılım sürecini tetikler tensor türevleri hesaplar. requires_grad=True.

import torch

# Create a tensor that tracks operations for backpropagation
w = torch.tensor([2.0], requires_grad=True)
x = torch.tensor([3.0])

# Forward pass: compute prediction and loss (simple example)
# Let's assume the target value is 10.0
loss = (w * x - 10.0) ** 2

# Backward pass: This command executes backpropagation
loss.backward()

# The gradient is now stored in w.grad, showing how to adjust 'w'
# This tells us the slope of the loss with respect to w
print(f"Gradient (dL/dw): {w.grad.item()}")

Daha Fazla Okuma

Geri yayılımın yapay zeka geliştirmenin daha geniş kapsamına nasıl uyduğunu anlamak için, veri artırma kavramını incelemek faydalıdır, çünkü bu kavram algoritmanın etkili bir şekilde genelleme yapması için gerekli olan çeşitli örnekleri sağlar. Ayrıca, ortalama ortalama hassasiyet (mAP) gibi eğitimin başarısını değerlendirmek için kullanılan belirli metrikleri anlamak, geri yayılım sürecinin modeli ne kadar iyi optimize ettiğini yorumlamaya yardımcı olur. Daha derin bir teorik inceleme için, Stanford CS231n ders notları, ilgili hesaplamaların mükemmel bir teknik ayrıntılı açıklamasını sunar.