Regularization

Düzenlileştirme (Regularization), machine learning modellerinin aşırı karmaşıklaşmasını önlemek ve yeni, daha önce görülmemiş verilere genelleme yeteneklerini geliştirmek için kullanılan bir teknikler kümesidir. Eğitim sürecinde bir model, genellikle training data içindeki karmaşık kalıpları öğrenerek hatasını en aza indirmeye çalışır. Ancak kısıtlamalar olmaksızın model, gürültüyü ve dış değerleri ezberlemeye başlayabilir; bu sorun overfitting olarak bilinir. Düzenlileştirme, modelin loss function değerine bir ceza ekleyerek bunu ele alır; bu sayede aşırı parametre değerlerini etkili bir şekilde caydırır ve algoritmayı daha akıcı, daha dayanıklı kalıplar öğrenmeye zorlar.

Temel Kavramlar ve Teknikler#

Düzenlileştirme prensibi genellikle en basit çözümün genelde doğru olduğunu öne süren Occam's Razor ile karşılaştırılır. Modeli kısıtlayarak geliştiriciler, rastgele korelasyonlar yerine verilerin en önemli özelliklerine odaklanmasını sağlarlar.

Modern deep learning çatılarında düzenlileştirmeyi uygulamak için çeşitli yaygın yöntemler kullanılır:

• L1 ve L2 Düzenlileştirmesi: Bu teknikler, modelin ağırlıklarının büyüklüğüne dayalı bir ceza terimi ekler. Ridge Regression veya ağırlık sönümlemesi olarak da bilinen L2 düzenlileştirmesi, büyük ağırlıkları ağır bir şekilde cezalandırarak bunların küçük ve dağıtık olmasını teşvik eder. L1 düzenlileştirmesi veya Lasso Regression ise bazı ağırlıkları sıfıra indirebilir ve etkili bir şekilde özellik seçimi gerçekleştirebilir.
• Dropout: Özellikle neural networks içinde kullanılan bir dropout layer, eğitim sırasında nöronların belirli bir yüzdesini rastgele devre dışı bırakır. Bu, ağı özellikleri tanımlamak için yedek yollar geliştirmeye zorlar ve hiçbir tekli nöronun belirli bir tahmin için dar boğaz haline gelmemesini sağlar.
• Veri Artırma (Data Augmentation): Esas olarak bir ön işleme adımı olsa da data augmentation, güçlü bir düzenlileştirici olarak görev yapar. Veri setini görüntünün değiştirilmiş versiyonlarıyla (döndürmeler, çevirmeler, renk kaymaları) yapay olarak genişleterek model daha fazla değişkenliğe maruz kalır ve orijinal statik örnekleri ezberlemesi önlenir.
• Erken Durdurma (Early Stopping): Bu yöntem, eğitim sırasında modelin validation data üzerindeki performansını izlemeyi içerir. Eğitim hatası azalırken doğrulama hatası artmaya başlarsa, modelin gürültü öğrenmesini önlemek için süreç durdurulur.

Gerçek Dünya Uygulamaları#

Düzenlileştirme, veri değişkenliğinin yüksek olduğu çeşitli endüstrilerde güvenilir yapay zeka sistemleri dağıtmak için vazgeçilmezdir.

1. Otonom Sürüş: AI for automotive solutions alanında bilgisayarlı görü modelleri, farklı hava koşullarında yayaları ve trafik işaretlerini tespit etmelidir. Düzenlileştirme olmadan bir model eğitim setindeki belirli aydınlatma koşullarını ezberleyebilir ve gerçek dünyada başarısız olabilir. weight decay gibi teknikler, tespit sisteminin yağmura, sese, sise veya parlamaya karşı iyi bir şekilde genelleşmesini sağlar; bu da autonomous vehicles için güvenlik açısından kritik önem taşır.

2. Tıbbi Görüntüleme: medical image analysis gerçekleştirirken veri setleri, gizlilik endişeleri veya durumların nadir olması nedeniyle genellikle boyut olarak sınırlıdır. Aşırı öğrenme (overfitting) burada önemli bir risk oluşturur. Düzenlileştirme yöntemleri, X-ışınları veya MR'lardaki anomalileri tespit etmek üzere eğitilen modellerin yeni hasta verilerinde doğru kalmasına yardımcı olarak healthcare AI alanında daha iyi teşhis sonuçlarını destekler.

Python ile Uygulama#

Modern kütüphaneler, hiperparametreler aracılığıyla düzenlileştirme uygulamayı kolaylaştırır. Aşağıdaki örnek, YOLO26 modelini eğitirken dropout ve weight_decay ayarlarının nasıl uygulanacağını gösterir.

from ultralytics import YOLO

# Load the latest YOLO26 model
model = YOLO("yolo26n.pt")

# Train with regularization hyperparameters
# 'dropout' adds randomness, 'weight_decay' penalizes large weights to prevent overfitting
model.train(data="coco8.yaml", epochs=100, dropout=0.5, weight_decay=0.0005)

Bu deneyleri yönetmek ve farklı düzenlileştirme değerlerinin performansı nasıl etkilediğini takip etmek, eğitim çalışmalarını günlüğe kaydetmek ve karşılaştırmak için araçlar sunan Ultralytics Platform aracılığıyla sorunsuz bir şekilde gerçekleştirilebilir.

Düzenlileştirme ve İlgili Kavramlar#

Düzenlileştirmeyi diğer optimizasyon ve ön işleme terimlerinden ayırmak faydalıdır:

• Düzenlileştirme ve Normalization: Normalleştirme, yakınsamayı hızlandırmak için girdi verilerini standart bir aralığa ölçeklendirmeyi içerir. Batch Normalization gibi teknikler hafif bir düzenlileştirme etkisine sahip olabilse de, temel amaçları öğrenme dinamiklerini stabilize etmektir; düzenlileştirme ise açıkça karmaşıklığı cezalandırır.
• Düzenlileştirme ve Hyperparameter Tuning: Düzenlileştirme parametreleri (dropout oranı veya L2 cezası gibi) kendi başlarına hiperparametrelerdir. Hiperparametre optimizasyonu, genellikle bias-variance tradeoff dengesini sağlamak için bu ayarların en uygun değerlerini aramanın daha geniş sürecidir.
• Düzenlileştirme ve Ensemble Learning: Ensemble yöntemleri, varyansı azaltmak ve genellemeyi iyileştirmek için birden çok modelin tahminlerini birleştirir. Bu, düzenlileştirmeye benzer bir amaca ulaşsa da, tek bir modelin öğrenmesini kısıtlamak yerine çeşitli modelleri bir araya getirerek bunu yapar.