Overfitting

Aşırı uyum, makine öğrenmesinde bir modelin eğitim verilerini gürültüyü ve rastgele dalgalanmaları, altta yatan veri dağılımı yerine, yakalayacak kadar iyi öğrenmesiyle ortaya çıkar. Aşırı uyum gösteren bir model, yeni ve daha önce görülmemiş verilere uygulanabilecek genel örüntüleri öğrenmek yerine eğitim kümesindeki belirli örnekleri adeta ezberler. Bu durum, eğitim verilerinde mükemmel performans gösterilmesini, ancak gerçek dünya senaryolarına genellemenin zayıf olmasını sağlar. Bu durum genellikle "yüksek varyans" olarak tanımlanır; yani modelin tahminleri, eğitim için kullanılan belirli veri kümesine bağlı olarak önemli ölçüde değişir.

Aşırı Uyum Neden Olur?#

Aşırı uyumun başlıca nedeni, mevcut veri miktarına kıyasla model karmaşıklığının aşırı olmasıdır. Bir sinir ağı çok büyükse (yani çok fazla katmana veya parametreye sahipse), eğitim örneklerini kolayca ezberleyebilir. Katkıda bulunan diğer faktörler şunlardır:

• Yetersiz Eğitim Verisi: Küçük veri kümeleri, daha geniş popülasyonda bulunmayan sahte korelasyonlar içerebilir. Sınırlı verilerle eğitilen modeller, bu tesadüfi örüntüleri öğrenmeye yatkındır.
• Veri Gürültüsü ve Aykırı Değerler: Eğitim verilerindeki yüksek düzeyde gürültü veya temsili olmayan aykırı değerler modeli yanıltabilir ve modelin iç parametrelerini gerçek sinyal yerine anormalliklere uyacak şekilde ayarlamasına neden olabilir.
• Uzun Eğitim Süresi: Çok fazla epoch boyunca eğitim yapmak, modelin ağırlıklarını eğitim kümesindeki gürültüye uyana kadar geliştirmeye devam etmesine olanak tanır. Bu durum genellikle doğrulama verileri kullanılarak izlenir.

Aşırı Uyum ve Yetersiz Uyum#

Aşırı uyumu yetersiz uyumdan ayırt etmek önemlidir. Aşırı uyum, gürültü de dahil olmak üzere çok fazla ayrıntının öğrenilmesini içerirken yetersiz uyum, bir modelin verilerin altta yatan yapısını hiç yakalayamayacak kadar basit olmasıyla ortaya çıkar. Yetersiz uyum gösteren bir model hem eğitim verilerinde hem de yeni verilerde kötü performans gösterir ve bu durum genellikle yüksek yanlılıkla sonuçlanır. Bu iki uç nokta arasındaki denge, yanlılık-varyans dengesi olarak bilinir.

Aşırı Uyumu Önleme#

Mühendisler, aşırı uyumu azaltmak ve model sağlamlığını iyileştirmek için çeşitli teknikler kullanır:

• Düzenlileştirme: L1/L2 düzenlileştirmesi veya dropout katmanları ekleme gibi teknikler, eğitim sırasında cezalar ya da rastgelelik getirerek modelin belirli özelliklere aşırı bağımlı hale gelmesini önler.
• Erken Durdurma: Bir doğrulama kümesindeki kayıp fonksiyonunu izlemek, eğitim doğruluğu artmaya devam etse bile daha önce görülmemiş verilerdeki performans iyileşmeyi bıraktığında eğitimin durdurulmasını sağlar.
• Veri Artırma: Veri artırma kullanarak eğitim kümesinin boyutunu ve çeşitliliğini yapay olarak artırmak, modelin görüntüleri birebir ezberlemesini zorlaştırır.
• Çapraz Doğrulama: k-katlı çapraz doğrulama gibi tekniklerin kullanılması, modelin farklı veri alt kümeleri üzerinde test edilmesini ve performansına ilişkin daha güvenilir bir tahmin elde edilmesini sağlar.

Gerçek Dünya Örnekleri#

Aşırı uyum, yapay zekâ üretim ortamlarında devreye alındığında ciddi sonuçlara yol açabilir:

• Tıbbi Tanı: Sağlık hizmetlerinde yapay zekâ kapsamında cilt kanserini tespit etmek üzere eğitilen bir model, eğitim görüntülerinde bulunan aydınlatma koşullarına veya cetvel işaretlerine aşırı uyum sağlayabilir. Farklı aydınlatma veya ekipman bulunan bir klinikte devreye alındığında model, ilgisiz arka plan ipuçlarına dayandığı için kötü huylu lezyonları doğru şekilde tanımlayamayabilir.
• Finansal Tahmin: Hisse senedi fiyatı tahmin modeli, belirli ve tekrarlanamayacak bir olayın (tek seferlik bir ekonomik kriz gibi) yönlendirdiği geçmiş piyasa eğilimlerine aşırı uyum sağlayabilir. Böyle bir model, temel piyasa dinamiklerini öğrenmek yerine geçmişteki anormallikleri ezberlediği için gelecekteki hisse senedi hareketlerini doğru şekilde tahmin edemeyebilir.

Kod Örneği: Ultralytics YOLO26 ile Erken Durdurma#

Ultralytics Platform veya yerel eğitim betiklerini kullanarak erken durdurma sabır değerini ayarlayıp aşırı uyumu önleyebilirsin. Bu, doğrulama uygunluğu belirli sayıda epoch boyunca iyileşmezse eğitimi durdurur.

from ultralytics import YOLO

# Load the YOLO26 model (latest generation)
model = YOLO("yolo26n.pt")

# Train with early stopping enabled (patience=50 epochs)
# If validation metrics don't improve for 50 epochs, training stops.
results = model.train(data="coco8.yaml", epochs=100, patience=50)

İlgili Kavramlar#

• Genelleme: Bir modelin yeni ve daha önce görülmemiş verilere uyum sağlama ve bu verilerde iyi performans gösterme becerisidir; aşırı uyumun tersidir.
• Çapraz Doğrulama: Bir istatistiksel analizin sonuçlarının bağımsız bir veri kümesine nasıl genelleneceğini değerlendirmeye yarayan bir tekniktir.
• Düzenlileştirme: Verilen eğitim kümesine uygun bir fonksiyon uydurarak hataları azaltmak ve aşırı uyumu önlemek için kullanılan yöntemlerdir.